Facebook今年刪除1400萬條恐怖內容99%為主動刪除
Facebook必須時刻保持警惕,防止其平台被“為非作歹之徒”所攻占,但他們究竟如何做到這一點,只有自己知道。然而在今天,該公司為我們提供了一些數據,說明他們正在使用何種工具以及正在取得什麼成果,例如,今年到目前為止,已經刪除了1400多萬條“恐怖內容”。
在1400萬內容中,半數以上是在2018年之前發布的舊帖子,其中一些內容已經上線好幾年了。但正如Facebook所指出的,那些內容很有可能從來未被閱讀過。很難想像一個招募恐怖分子的帖子在970天內被人看過,卻未被管理系統識別出來。
也許更重要的是,新帖子被刪除的數量似乎在穩步增長。在今年第一季度,120萬條帖子被去除;在第二季度中,這一數字變為220萬;在第三季度,為230萬。用戶報告內容的移除數量也在增長,儘管在數量上要小得多——在第三季度大約有16000條。事實上,Facebook自豪地報告說,其中99%的內容是該公司“主動”刪除的。
值得注意的是,Facebook在談到這種內容時總是言語謹慎、小心措辭,例如,他們不會說“恐怖分子發布了230萬條內容”,而是說“被劫持”或“浮出水面”的內容數量。這樣做更保守,在技術上也更正確,因為他們只能對自己的行動心中有數,但這種做法也淡化了恐怖分子每月發布數十万帖子的事實。
人們無法判斷1400萬條恐怖內容是多?還是少?不過,令人印象深刻的是,據說Facebook已經大大擴展了自動化檢測工具的範圍。該公司稱:
“我們利用算法識別違規文本帖子(我們稱之為“語言理解”)的實驗,現在已涵蓋19種語言。”
同時,降低內容刪除速度的bug已被修復:
“2018年第二季度,使用我們的標準工具,將新內容上傳到平台上的平均時間約為14小時,比2018年第一季度有顯著增加。這種增長是由多種因素推動的,包括修復了一個阻止我們刪除一些違反政策內容的bug,以及推出新的檢測和執行系統。”
第三季度的數字還會有所提高,因為改進工作正在進行中。
“毫無疑問,我們都希望公司的內容管理早點達到嚴謹的水平。值得注意的是,這種機制最大的好處是不僅僅專注於刪除內容,還會促進內容管理團隊的不斷成長。”