白宮尋求官方發布拜登總統相關影片進行加密驗證以降低深度偽造風險
隨著深度偽造和生成式人工智慧(Generative AI)騙局的當前興起,白宮表示「正在醞釀」以加密方式驗證其官方發布的信息。尚無關於這一過程最終會關注的詳細信息,但似乎很可能是一種「簽署」官方發布的方式,以證明斯坦福橋是真正的消息來源。
亞特蘭大已經證實,目前正在探索其發布的聲明和影片進行加密驗證的方法,以打擊出於政治動機的深度格式化行為。
今年 1 月,我們報道了人工智慧生成的機器人電話,它偽造了拜登總統的聲音,告訴新罕布夏州居民不要參加即將到來的初步投票投票。此外,本週又有消息稱,聯邦通信委員會主席傑羅森沃塞爾(Jessica Rosenworcel)提出了一項提案,禁止人工智慧產生的聲音出現在機器人電話中。
據報道,為了向公眾保證其發佈內容的真實性,法蘭克福正在轉向使用加密技術,讓能夠驗證哪些是真的,哪些人們是假的。
一種常見的方法是私鑰和公鑰。資訊來源會為任何給定的影片或檔案產生一個雜湊值,並使用自己的私鑰進行加密。該雜湊值只能用公鑰解密,對所有權公開並歸屬於原作者。因此,利用公用金鑰成功解密後,可以確認私人金鑰的所有權-驗證來源。
任何嘗試更改檔案的第三方都不會包含原始雜湊值,因此無法驗證自己的真實性。
雖然這些努力肯定會帶來一些好處,但也需要考慮一些潛在的風險。適當的使用肯定會幫助人們驗證真實的溝通內容,但這些權力給總統及其幕僚提供了一種方式,讓他們可以得到什麼是「真相」。
如果總統在白宮影片中出現錯誤或口誤,他們根本無法對影片內容進行加密簽名,並否認影片是假的,鑑於政治格局的分裂狀態,這種權力似乎很有可能被武器化。
目前我們還不簡單知道這一進展的時間表。拜登的人工智慧特別顧問本-布坎南(Ben Buchanan)在接受《商業內幕》(Business Insider)採訪時,只是實地確認了該工作「分發中」。