據路透社報導，社交媒體平台Twitter週一宣布，公司擬推出處理人工智能合成（deepfake）視頻和其他篡改內容的計劃，並呼籲公眾積極反饋。隨著2020年11月的美國總統大選一日日趨近，社交媒體也承受著越來越大的壓力，需應對各種被篡改的內容，包括人工智能合成的視頻。

Twitter在公司的一篇博客文章裡提到了這個新的計劃，稱平台打算在推文下方附加一條提示信息——“包含合成或篡改內容”，在人們點贊或轉發推文前給予提示，或者在新聞報導下方增加一個鏈接說明為什麼大多數人認為該內容是合成或篡改的。

公司還表示，若包含這類內容的推文具有誤導性並有可能威脅人身安全或導致其他嚴重傷害的，公司或可從平台上刪除這類內容。

根據博客文章，Twitter提議將合成和篡改的內容定義為任何“以誤導大眾或改變其願意為目的而實質性更改或偽造過的”照片、音頻或視頻，意味著人工智能合成內容或手中合成的內容亦將被歸來為合成和篡改的內容。

去年，Twitter已經禁止對私密內容進行人工智能合成編輯：公司的政策禁止在平台上發布採用數字方式將一個人的頭像合成到另一個裸體身上的照片或視頻。

儘管精心合成的視頻尚未在美國造成嚴重的政治後果，但這類視頻所能造成的混亂已經在5月份的時候得到印證。彼時，眾議院議長南希·佩洛西（Nancy Pelosi）的一段視頻被有意放慢，造成醉酒的假象。

佩洛西視頻之後，Facebook的首席執行官馬克·扎克伯格（Mark Zuckerberg）也遭到惡搞。一段惡搞視頻在Instagram上流傳，視頻里扎克伯格說“誰掌握了數據，誰就掌握未來”。但Facebook事後並未刪除這段視頻。

7月份，美國眾議院情報委員會主席亞當·希夫（Adam Schiff）致信Facebook、Twitter和谷歌的首席執行官們，要求各公司在2020年大選之前出台應對人工智能合成圖像和視頻的策略。

Twitter已經公開其新計劃，並邀請公眾通過#TwitterPolicyFeedback話題發表建議，直至11月27日。

上個月，亞馬遜旗下的亞馬遜網絡服務（AWS）也表示將與Facebook和微軟一起接受“人工智能合成檢測挑戰”。