專家稱YouTube清理仇恨內容不夠努力:單純的數字無法反映全貌
週二的時候,YouTube表示,由於範圍了該平台的反仇恨言論政策,其在4~6月間清理了超過1.7萬個頻道和10萬條視頻,是前一時期總數的五倍。可即便如此,專家們還是警告稱:YouTube在仇恨言論的監督和檢測能力上,仍有很大的提升空間,因為極端分子總能找到這個體系的漏洞。
(來自:Wired)
在針對超過60 位人們極右翼YouTube 創作者展開的一項研究中,其發現該平台仍存在著“激勵極端和震驚式內容創作者”的問題。社會數據研究員研究員Rebecca Lewis 表示:
YouTube 給了我們相關的數字,但未披露其背後的故事。仇恨言論在YouTube 平台上的數量一直在增長,他們其實在利益的驅使下推動仇恨言論。
Lewis 指出,這些數據缺乏評估其工作所需的背景,因為YouTube 上的仇恨言論問題,不一定與簡單的數字有所關聯。
她的研究發現,訪客最有可能在一個突出的、高調的頻道上見到仇恨言論內容,而不是來自一個粉絲數稀少的隨機YouTube 賬戶。
在去年秋天的報告中,Lewis 評論道:無論YouTube 的系統有多麼厲害,該平臺本質上還是在努力讓每個人實現其影響力的貨幣化。
YouTube 及其母公司放任種族主義、厭惡女性和騷擾內容的存在,且在許多情況下,只要視頻內容未包含露骨的誹謗,就可以繼續靠著該平台來賺取廣告收入。
對此,YouTube 發言人表示:識別和審核違規內容的新政策,導致了刪除量的大幅增加。該平台從1 月開始打擊所謂的“擦邊球”內容和錯誤信息,並在6 月份變更了反仇恨、極端和陰謀內容的監管政策。
新政策會從年齡、性別、種族(種姓)、宗教、性取向、或退伍軍人身份等方面展開綜合的考量,此外禁止美化某些負面意識形態、或者鼓吹大規模暴力行為的視頻。
之所以二季度沒有感受到新政策帶來的巨大變化,是因為YouTube 依賴於自動標記系統,該系統需要幾個月的適應時間。
今後,人工審核員將努力對YouTube 的自動舉報系統展開培訓,以便在第一時間清理新發布的違規內容。當然,在被自動系統標記之後,還是少不了一定程度上的人工核驗。