與2016 年和2020 年相比，由於初選季的競爭較少，外國對美國總統選舉的惡意影響起步較慢。俄羅斯的努力主要集中在破壞美國對烏克蘭的支持，而中國方面則試圖利用社會兩極化，削弱人們對美國民主制度的信心。

此外，人們擔心複雜的人工智慧深度偽造影片會成功操縱選民，但這一擔心尚未得到證實，而較簡單的”淺層”人工智慧增強和人工智慧音訊偽造內容可能會取得更大成功。這些見解和分析包含在今天發布的第二份《微軟威脅情報選舉報告》中。

俄羅斯在破壞美國對烏克蘭的支持方面投入巨大

俄羅斯的影響力行動（IO）在過去兩個月愈演愈烈。微軟威脅分析中心（MTAC）已追蹤到至少有70 名俄羅斯人員利用傳統媒體和社群媒體以及隱藏和公開的活動，從事以烏克蘭為重點的假訊息活動。

例如，微軟追蹤到的名為Storm-1516 的行為者使用多種語言的一致模式，成功地向美國受眾洗白了反烏克蘭的言論。通常情況下，組織會遵循三個階段的流程：

1. 個人以舉報人或公民記者的身分出現，在專門建立的影片頻道上播出敘述內容
2. 然後，一個看似無關聯的全球秘密管理網站網路對該影片進行了報告
3. 然後，俄羅斯外籍人士、官員和同行者會擴大這種報告。

最終，美國受眾很可能在不知情的情況下重複和轉發這些假訊息。

圖1：Storm-1516 向美國受眾空間發送假訊息的流程

中國試圖擴大社會分歧，破壞美國民主制度

中國在以選舉為重點的活動中採用了多層次的方法。它利用現有的社會政治分歧，將其攻擊與黨派利益結合起來，鼓勵這些訊息的轉發。

圖2：與中國有關的仿冒帳號冒充美國選民，發布以美國大選為主題的內容

中國在與選舉相關的影響活動中也越來越多地使用人工智慧，這是它與俄羅斯的不同之處。俄羅斯對人工智慧的使用在影響方面不斷發展，而與中國有關聯的行為體則利用人工智慧生成技術有效地創建和增強圖像、備忘錄和影片。

伊朗迄今活動有限，常在選舉後期攪局

伊朗過去的行為表明，它很可能會在接近美國大選日時發起嚴重的網路影響力行動。德黑蘭的選舉幹預策略採用了一種獨特的方法：將網路和影響力行動結合起來，以產生更大的影響。中東地區持續不斷的衝突可能意味著伊朗將改變其針對美國的計畫目標和行動。

2024 年大選中的生成式人工智慧–風險依然存在，但與預期不同

自2022 年底生成式人工智慧民主化以來，許多人擔心這種技術會被用來改變選舉結果。 MTAC 與微軟的多個團隊合作，對民族國家在影響行動中惡意使用生成式人工智慧的情況進行識別、分流和分析。

簡而言之，迄今為止，使用世界領導人和候選人的高製作合成深度偽造影片並未造成大規模欺騙和廣泛混淆。事實上，我們已經看到，受眾更容易傾向於並分享簡單的數位偽造品，而在過去十年中，影響力行動者一直在使用這些數位偽造品。例如，印有真實通訊社標誌的假新聞報道。

受眾有時確實會被人工智慧生成式內容所吸引，不過成功的場景有著極大的細微差別。我們今天的報告解釋了以下因素如何導致生成式人工智慧在2024 年的選舉中面臨風險：

• 人工智慧增強內容比完全由人工智慧產生的內容更具影響力
• 人工智慧音訊比人工智慧視訊更具影響力
• 聲稱來自私人場合的虛假內容（如電話）比來自公共場合的虛假內容（如世界領導人的深度偽造影片）更有效
• 在危機和突發新聞期間，假訊息的傳播更具穿透力
• 模仿知名度較低的人比模仿世界領導人等知名度很高的人效果更好

隨著11 月的臨近，我們預計俄羅斯、伊朗和中國都將加快影響和乾擾活動的步伐，因此在選舉日之前，MTAC 將繼續識別和分析惡意使用生成式人工智慧的情況，並逐步更新評估。需要特別注意的一點是：如果有一種複雜的深度偽造技術用於影響11 月的選舉，那麼用於操縱選舉的工具很可能尚未進入市場。幾乎每天都有越來越先進的視訊、音訊和影像人工智慧工具進入市場。上述評估是根據MTAC 迄今觀察到的情況做出的，但我們很難知道從現在到11 月，我們會從生成式人工智慧中觀察到什麼。

上述評估是根據MTAC 目前的觀察得出的，但從現在到11 月，隨著人工智慧的發展以及俄羅斯、伊朗和中國地緣政治目標的演變，2024 年大選的風險可能會隨著時間的推移而發生變化。

閱讀原文：

https://blogs.microsoft.com/on-the-issues/2024/04/17/russia-us-election-interference-deepfakes-ai