內容審核(Content Moderation)，是基于圖像、文本、視頻的檢測技術，可自動檢測涉黃、廣告、涉政涉暴、涉政敏感人物等內容，對用戶上傳的圖片、文字、視頻進行內容審核，幫助客戶降低業務違規風險。它的基本流程和方式是怎樣的呢?下面小編給大家具體介紹一下。
一、審核方式
不管是什么內容的審核，都應該包含以下四個基礎模塊：機器審核、人工審核、用戶投訴審核、結果復審。
1.機器審核
是按照制定好的規則或機器學習算法對內容進行審核.
通常，成熟的審核系統能將95%甚至99%以上的內容都自動審核并做出處理。確定有問題的會被自動刪除，難以判斷是否有問題的會被標注，進入人工審核程序。
2. 人工審核
雖然用戶投訴審核和結果復審大多時候也是人工審核，但這里所說的人工審核，特指審核機器無法判別的內容，通常占平臺內容數量的比例不超過5%.
但對于一些大型的內容平臺，絕對數量已經很多了。在內容爆炸的時代，我們看到許多平臺在全國都有多個審核中心，每個審核中心的員工數量都成千甚至上萬。
3. 用戶投訴審核
是前兩者的彌補，有很多違規內容以前沒有出現過;所以不在規則可以過濾的范圍內，或者非常隱蔽，規則難以嚴格過濾。
用戶的投訴是發現新問題的重要渠道。通過知乎的危機事件，我們更應該重視對投訴的審核，并及時據此對機器審核做出補充。
4. 結果復審
通常采取抽查方式，比如通過復審機器刪除的內容，看規則或算法是否過于嚴格;比如通過查看人工刪除和通過的內容，看員工的工作是否按要求執行;比如通過內容的整體巡查，看是否存在新的問題未被注意到。
二、審核流程
先過機器審核，機器審核 通過 或 不通過;
對機器審核不通過的，再進行人工復審;
對機器審核通過的，再進行人工抽樣審核。
綜上所述，大家是不是對內容審核的基本方式和流程有了一定的了解呢，希望小編的文章對大家有所幫助，想了解更多關于內容審核的內容請關注小編。
【萌萌客:m.richlegacy2u.com】提供專業的電商在線客服外包服務、電話客服及內容審核等服務，幫您簡單客服難題。
