TikTok為視頻刪除引入更多自動化功能
據美國Axios新聞網報導,TikTok正在推出一個新的系統,允許該公司在用戶上傳違反其政策的視頻時自動屏蔽。該社交網絡還在改變當用戶的內容被刪除時的通知方式。TikTok表示,新系統不僅將改善用戶體驗,而且將有助於減少其安全團隊必須審查的令人不安的視頻(如含有暴力內容的視頻)的數量,使工作人員能夠專注於更細緻的內容領域,如仇恨言論、欺凌和騷擾。
從本週開始,TikTok將測試自動刪除幾個違反其政策的內容類別,如未成年人安全、成人裸體和性活動、暴力和圖片內容、非法活動和受管製商品。
- 該公司表示,其技術在識別這些類別的違規內容方面具有最高程度的準確性。
- TikTok還表示,測試表明,自動刪除的假陽性率為5%,而對視頻刪除的上訴請求保持不變。
TikTok的安全團隊一直在刪除其技術篩選出的違反其規則的內容,但這些變化將給這個過程帶來更多的自動化,使其審核工作更加有效。其安全團隊將繼續審查用戶的報告和內容刪除申訴。這些變化是公司更廣泛的努力的一部分,以使TikTok的內容審核方式更加透明。
上週,該公司首次表示,它將報告有多少賬戶因屬於13歲以下用戶而被刪除。TikTok稱,作為周五更新的一部分,它還將改變在用戶違反社區準則時通知他們的方式。
- 新系統將根據一段時間內違規的數量和嚴重程度,對賬戶採取行動。
- 今後,TikTok將向用戶發送應用內警告,說明他們的內容違反了TikTok的規則,並可能導致他們的賬戶被禁。
- 如果用戶上傳的內容是TikTok的零容忍政策(即–兒童性虐待材料),將導致自動禁止。
- 此後,如果發現用戶一再違反社區準則,他們的賬戶可能被暫停或限制。如果他們的賬戶處於被禁止的邊緣,在多次違規後,他們將被通知。
TikTok承認其技術並不完美,它可能無意中刪除某人不違反其條款的視頻。在這種情況下,TikTok說內容將被恢復,處罰將從該用戶的記錄中刪除。該公司表示,累積的違規行為將隨著時間的推移從一個人的記錄中失效。