週五，各大科技公司簽署了一項協議，自願採取”合理的預防措施”，防止人工智慧工具被用於破壞世界各地的民主選舉。來自Adobe、亞馬遜、Google、Meta、微軟、OpenAI 和TikTok 的技術高管齊聚慕尼黑安全大會，宣布了一項新的自願性框架，規定他們將如何應對人工智慧生成的故意欺騙選民的深度偽造。包括IBM 和伊隆馬斯克（Elon Musk）的X 公司在內的其他13 家公司也簽署了該協議。

Facebook 和Instagram 的母公司Meta 公司全球事務總裁尼克-克萊格（Nick Clegg）在峰會前接受採訪時說：「每個人都認識到，沒有一家科技公司、沒有一個政府、沒有一個民間社會組織能夠獨自應對這種技術的出現及其可能的邪惡用途。”

該協議在很大程度上是像徵性的，但針對的是越來越逼真的人工智慧生成的圖像、音頻和視頻，」這些圖像、音頻和視頻會欺騙性地偽造或改變政治候選人、選舉官員和民主選舉中其他關鍵利益相關者的外表、聲音或行動，或向選民提供關於何時、何地以及如何合法投票的虛假信息”。

這些公司並未承諾禁止或刪除深度偽造內容。相反，該協議概述了它們將採用的方法，以便在創建或在其平台上傳播欺騙性人工智慧內容時，對其進行檢測和標記。協議指出，這些公司將相互分享最佳實踐，並在這些內容開始傳播時提供”迅速和適度的回應”。

承諾的模糊性和缺乏任何有約束力的要求可能有助於贏得眾多公司的青睞，但可能會讓希望得到更有力保證的民主活動家和監督機構失望。

克雷格說：『每家公司都有自己的內容政策，這是無可厚非的。這並不是要給每個人都穿上緊身衣。而且，無論如何，業界沒有人認為，你可以透過一掃而過、玩’打地鼠’遊戲、找出所有認為可能誤導他人的東西來應對全新的技術範式。”

就在50 多個國家將於2024 年舉行全國大選之際，德國城市年度安全會議達成了這項協議。其中一些國家已經舉行了選舉，包括孟加拉、台灣、巴基斯坦和最近的印尼。

人工智慧幹預選舉的嘗試已經開始，例如上個月，模仿美國總統拜登聲音的人工智慧機器人電話試圖阻止人們在新罕布夏州的初選中投票。

就在斯洛伐克11 月大選的前幾天，人工智慧生成的錄音冒充一名自由黨候選人，討論提高啤酒價格和操縱選舉的計劃。事實查核人員很快就辨認出這些錄音是假的，但它們已經在社群媒體上被當作真實錄音廣為傳播。

從使用人工智慧聊天機器人與選民溝通，到在廣告中添加人工智慧產生的圖像，政治人物和競選委員會也正在嘗試使用這種技術。

在印尼大選之前，一個政黨的領導人分享了一段克隆已故獨裁者蘇哈托面容和聲音的影片。 X 上的貼文揭露了影片是由人工智慧產生的，但一些網路批評者稱這是濫用人工智慧工具恐嚇和左右選民。

週五的協議稱，在應對人工智慧生成的深度偽造時，平台”將注意語境，特別是保護教育、紀錄片、藝術、諷刺和政治表達」。它表示，兩家公司將重點關注向用戶提供有關欺騙性人工智慧選舉內容政策的透明度，並努力教育公眾如何避免上人工智慧造假的當。

許多公司先前都表示，他們正在為自己的人工智慧生成工具（可以處理圖像和聲音）設定保障措施，同時也在努力識別和標記人工智慧產生的內容，以便社群媒體使用者知道他們看到的是否是真實的。但這些建議的解決方案大多尚未推出，這些公司面臨來自監管機構和其他方面的壓力，要求它們做得更多。

這種壓力在美國更加突出，因為美國國會尚未通過法律來規範人工智慧在政治領域的應用，而人工智慧公司在很大程度上只能自我管理。在沒有聯邦立法的情況下，許多州都在考慮如何在選舉和其他應用中為人工智慧的使用設定防護欄。

美國聯邦通訊委員會最近確認，人工智慧生成的機器人電話音訊片段是違法的，但這並不包括在社群媒體或競選廣告中流傳的深度偽造音訊。

假訊息專家警告說，雖然人工智慧深度偽造尤其令人擔憂，因為它們有可能在暗中影響今年的選民，但更便宜、更簡單的假訊息形式仍然是一大威脅。該協議也注意到了這一點，承認”傳統操縱也可用於類似目的”。

許多社群媒體公司已經制定了相關政策，以阻止有關選舉程序的欺騙性貼文——無論是否由人工智慧產生。例如，Meta表示，它會刪除有關”投票、選民登記或參與人口普查的日期、地點、時間和方法”的錯誤信息，以及其他旨在幹擾他人參與公民事務的虛假帖子。

誠信研究所（Integrity Institute）聯合創始人、Facebook 前數據科學家傑夫-艾倫（Jeff Allen）說，該協議似乎是”積極的一步”，但他仍希望看到社交媒體公司採取其他基本行動來打擊不實訊息，例如建立內容推薦系統，而不是將參與度放在首位。

除了幫助促成週五協議的主要平台外，其他簽署方還包括聊天機器人開發商Anthropic 和Inflection AI、語音克隆新創公司ElevenLabs、晶片設計公司Arm Holdings、安全公司McAfee 和TrendMicro，以及以製造圖像生成器Stable Diffusion 而聞名的Stability AI。

值得注意的是，另一個流行的人工智慧影像產生器Midjourney 也沒有加入該協議。這家位於舊金山的新創公司週五沒有立即回覆置評請求。

X的加入是周五協議中最大的驚喜之一。馬斯克在接管前Twitter公司後大幅削減了內容審核團隊，並將自己描述為”言論自由絕對主義者”。

但X 公司執行長琳達-雅卡里諾（Linda Yaccarino）在周五的一份聲明中說，”每個公民和公司都有責任維護自由公正的選舉」。她說：”X 致力於發揮自己的作用，與同行合作打擊人工智慧威脅，同時保護言論自由並最大限度地提高透明度。”