AI“深度偽造”內容氾濫Ins上惊現扎克伯格假視頻
據CNET報導,剛剛出現在圖片分享網站Instagram上的視頻顯示,Facebook首席執行官馬克·扎克伯格(Mark Zuckerberg)似乎正就大數據的力發表簡短的演講。
視頻中的紮克伯格稱:“試想一下:一個人完全控制著數十億人被盜的數據,掌握著他們所有的秘密、生活和未來。這都要歸咎於Spectre漏洞。它讓我明白,誰控制了數據,誰就控制了未來。”
事實上,扎克伯格從未說過這些話。這段視頻是通過“深度偽造”(Deepfake)技術製作的,它利用人工智能(AI)創建視頻,並偽造目標沒有說過的話,這突顯出社交網絡在監管受操縱內容方面面臨的挑戰。
扎克伯格的這段虛假視頻也可能是對Facebook的一次考驗,此前該公司拒絕刪除美國眾議院議長南希·佩洛西(Nancy Pelosi)的虛假視頻。Facebook宣稱,該公司不會刪除假新聞,但會減少其在網站上的影響力,並顯示來自事實核查人員的信息。
Instagram發言人稱:“我們將像對待Instagram上所有錯誤信息一樣對待這些內容。如果第三方事實核查人員將其標記為虛假視頻,我們將從Instagram的推薦頁面(如Explore和hashtag頁面)過濾它。”
事實核查機構Lead Stories稱這段視頻為“藝術”,並在一篇帖子中表示,將這段視頻打上諷刺的標籤,這不會損害視頻的傳播。用戶將看到警告標籤,說明它不是真實的。
藝術家比爾·博斯特斯(Bill Poster)、丹尼爾·豪維(Daniel Howe)與Canny廣告公司合作製作了這段視頻。他們在Instagram上的帖子中稱,這段視頻是使用CannyAI的視頻對話替代(VDR)技術創建的。
創作者們稱,這段視頻使用了扎克伯格2017年關於俄羅斯干預美國大選的視頻片段。視頻的右側有哥倫比亞廣播公司(CBS)標誌,標籤上寫著“扎克伯格:我們正在提高廣告透明度。”CBS發言人已經表示,該公司要求Facebook“撤下這一未經授權的假冒CBSN商標”。
Canny公司還曾與博斯特斯合作,製作了唐納德·特朗普(Donald Trump)總統和金·卡戴珊(Kim Kardashian)等人的假視頻。扎克伯格的虛假視頻是四天前發布的,博斯特斯沒有立即回復置評請求。
這已經不是有關扎克伯格的第一個虛假視頻了。早在2018年,電影製作人安德魯·歐雷克(Andrew Oleck)就曾在Facebook上發布了一段視頻,視頻中似乎是紮克伯格在說他要刪除社交網絡,這讓許多用戶誤以為是真的。
與此同時,美國議員們對在2020年美國總統大選中使用深度造假技術感到擔憂。美國眾議院情報委員會計劃於週四就被操縱媒體和“深度造假”問題舉行聽證會。