隨著生成式人工智慧的興起，惡意行為者又掀起了新一輪數字”深度偽造”內容的浪潮，他們試圖在網路上獲取有關人物和話題的虛假資訊。由於2024 年的美國總統大選，這一趨勢變得特別令人擔憂。

在這方面，微軟威脅分析中心（MTAC）一直在監測來自俄羅斯、伊朗和中國的國家支持的威脅行為者是如何製作虛假網站、社交媒體帖子和視頻，試圖影響2024 年大選的。事實上，本週早些時候，該公司發布了一份新報告，聲稱俄羅斯的行為者正在製作視頻，旨在推送有關美國民主黨總統提名人卡馬拉-哈里斯（Kamala Harris）及其副總統提名人蒂姆-瓦爾茲（Tim Walz）的虛假信息。

今天，微軟在其部落格上發布了公司總裁布拉德-史密斯（Brad Smith）的書面證詞，他也出席了在華盛頓特區舉行的美國參議院情報委員會聽證會。聽證會的中心議題是外國對美國選舉的威脅，以及微軟等美國科技公司應對這些威脅的責任。

史密斯在書面證詞中重複了國家支持的組織利用人工智慧和深度偽造來影響2024 年選舉的許多行動。他還敦促委員會和美國國會親自採取行動。

史密斯在證詞中寫道：

首先，國會應頒布新的聯邦”深度偽造欺詐法規”。我們需要為包括各州總檢察長在內的執法官員提供一個獨立的法律框架，以便在人工智慧產生的詐欺和騙局以更快的速度和更複雜的方式擴散時對其提起訴訟。

史密斯還說，國會還應通過一項規定，要求任何人工智慧系統提供者必須用”最先進的出處工具”標註任何人工智慧創建的內容。最後，史密斯表示，國會應通過《保護選舉免受欺騙性人工智慧法案》，該法案已由美國兩黨議員小組提出。除其他事項外，該法案將防止使用人工智慧為聯邦立法者產生政治內容，但諷刺性內容或新聞編輯室使用的情況除外。