微軟稱與中國有關的行動者利用AI影響民主選舉與製造社會分裂
微軟威脅分析中心(MTAC)一直在監控那些利用社群網路向美國公民發布假訊息的中國駭客。 MTAC 曾在2023 年9 月曝光過這些活動。在該組織本週的一份更新報告中,微軟稱,隨著2024 年美國總統大選的日益臨近,與中國有關的行動者繼續在美國從事離間活動。
了解更多:
在一篇部落格文章中,MTAC 展示了幾個例子,表明中國的行為者在美國的社交網路上發布虛假訊息,通常是用人工智慧產生的內容。其中一些貼文試圖推送有關重大新聞事件的虛假陰謀論。
例如,2023 年8 月夏威夷州毛伊島的大火就是一個名為”風暴1376″(Storm-1376)的群組的攻擊目標,該群組發布虛假信息,聲稱大火是由美國政府的”氣象武器”造成的。該組織還發布了關於2023 年11 月肯塔基州火車出軌原因的虛假貼文。
Storm-1376被判定為一個來自中國的組織,負責人工智慧製作內容,並利用假訊息影響2024 年1 月的台灣選舉。微軟稱,這是第一次有民族國家支持的行為者使用人工智慧產生的內容試圖影響外國選舉結果。
雖然微軟表示,這群行為者利用這些社交網路貼文影響包括美國在內的世界各地即將舉行的選舉的努力目前可能收效甚微,但”中國在製作謎因、視頻和音頻方面越來越多的嘗試可能會繼續下去–而且可能會被證明更有效”。
MTAC 的新報告還顯示,除其他行動外,以朝鮮為基地的網路行為者加強了竊取加密貨幣資金的力度。其中一個名為”Emerald Sleet”的組織被認定使用了大型人工智慧語言模型來幫助改進他們的行動。不過,微軟表示,在與其合作夥伴OpenAI 的共同努力下,微軟關閉了被該組織使用的帳戶和資產。