
一般是機器和人工審核的雙重過濾。根據不同業務需求,信息量及風險權衡,人機審核比例會有所不同。

1、使用敏感詞過濾系統。
信息審核工作都是在信息審核平臺上進行的,網站的運營審核系統中會預先設定一批關鍵詞庫并對詞組進行排列組合,這批詞庫又會根據敏感性進行分類。系統會阻止用戶發布敏感詞匯,或將用戶發出來的含有敏感詞的內容直接刪除。 對于某些敏感性較低的詞匯,發出來不會立即刪除,需要經過審核人員過目進行二次審核。
2、建立反垃圾信息(anti-spam)機制。
我們經常會遇到一些垃圾信息,比如郵箱中收到的各種垃圾郵件、新浪微博的僵尸粉以及論壇中層出不窮的廣告貼等等。有人會不停的去尋找網站的漏洞以及規則,使用機器發布這些垃圾廣告從而達到營利目的。anti-spam主要是指通過技術手段對數據進行過濾和篩選,將我們認定為不合格的數據清理掉,將系統認為可疑的信息進行提示分類。anti-spam對審核工作也是一個相輔相成的內容。

內容審核主要指對網站平臺上所有形式的內容進行審核把關,文字、圖片、音視頻、直播、賬號、評論、彈幕等,都是審核的對象。審核是否符合平臺規則和法律法規,以避免涉政違規、涉黃、暴恐、違禁、不良價值觀、廣告等各類內容安全風險。