近幾年，網絡暴力成了一種很常見的現象，但是這種語言上的暴力行為其實會對當事人造成極大的傷害，而“施暴者”卻只是非常輕鬆對這些事進行個人評論。針對頻發的網絡暴力現象，近日抖音正式宣布全面升級平台預防網暴能力，即將上線國內首個“發文警示”功能，還包括“風險提醒”等8項功能，已成為國內首個為用戶提供多場景下預防網暴能力的平台。

其中，針對評論的“發文警示”功能會引導用戶友善評論。該功能下，若係統模型判定已經發送的評論存在問題，則會推送彈窗提醒，建議發送者重新編輯，去除不當言論。

如果發送者堅持發送，則該條評論不會在評論區出現。

在私信方面，抖音新增“用戶風險提醒”和“負向內容過濾”兩大功能。在“用戶風險提醒”功能下，當系統模型識別發現，用戶剛接收的陌生人私信存在風險時，會對用戶推送彈窗，提示其“是否認識該用戶”。

如果用戶選擇“不認識”，系統會再次彈窗，提示用戶可進行“拉黑、舉報、移除粉絲”等操作，確保自身安全。目前，該功能日均會對25 萬次會話發出風險提示，引導用戶自主管理社交對象。

在“負向內容過濾”功能下，當模型判定用戶收到的私信消息為“謾罵或騷擾”，該消息會被直接放入“陌生人盒子—垃圾信息”中。該功能已日均為7 萬用戶服務。

此外，抖音還推出了“心情暖寶寶”助手，以根據用戶內容情緒傾向，通過消息對話的交互方式，緩解用戶負向情緒。