追蹤錯誤訊息的組織NewsGuard 12月18日發布報告稱，自5月以來，託管人工智慧創建的虛假文章的網站增加了1000%以上，從49個網站激增至600多個。先前，宣傳活動一直依賴低薪工人大軍或高度協調的情報組織來建立看似合法的網站。但人工智慧讓幾乎任何人，無論是間諜機構的一員還是地下室裡的青少年都可以輕鬆創建這些媒體，製作有時很難與真實新聞區分開來的內容。

迄今為止，NewsGuard的團隊已識別出614個不可靠的人工智慧產生的新聞和資訊網站，標記為“UAINS”，涵蓋15種語言：阿拉伯語、中文、捷克語、荷蘭語、英語、法語、德語、印尼語、義大利語、韓語、葡萄牙語、西班牙語、他加祿語、泰語和土耳其語。

NewsGuard的一項調查發現，一篇由人工智慧生成的文章講述了有關以色列總理本傑明·內塔尼亞胡精神科醫生的假故事，聲稱他已經去世，並留下一張紙條，暗示內塔尼亞胡參與其中。這位精神科醫生似乎是虛構的，但該說法出現在伊朗電視節目中，並在阿拉伯語、英語和印尼語媒體的網站上轉載，在社交平台TikTok、Reddit和Instagram上被用戶傳播。

伊朗國營電視台引述不可靠的人工智慧產生的英文新聞網站GlobalVillageSpace.com來宣揚內塔尼亞胡的「精神科醫生」自殺的錯誤說法。圖片來源：NewsGuard

錯誤訊息專家表示，這些網站的快速成長在2024年的各個選舉前夕尤其令人擔憂。「其中一些網站每天會產生數百甚至數千篇文章。」進行調查的NewsGuard研究員傑克·布魯斯特（Jack Brewster）對媒體表示，「這就是為什麼我們稱其為下一個大型的錯誤訊息超級傳播者。”

今年9月，斯洛伐克進步黨領袖米哈爾·西梅奇卡（Michal Šimečka）在選民投票前幾天發現，他的聲音被克隆，說出了他從未說過的有爭議的話。兩週後，英國工黨領袖似乎被錄下了在X（前身為Twitter）上斥責一名工作人員的充滿髒話的長篇大論的錄音。越來越多的網站，例如使用“iBusiness Day”或“愛爾蘭熱門新聞”等通用名稱發布假新聞，使其看起來很真實。

發布「內塔尼亞胡精神科醫生」文章的網站「地球村空間」也充滿著各種嚴肅話題的文章。有一些文章詳細介紹了美國對俄羅斯武器供應商的製裁，石油巨頭沙烏地阿美公司在巴基斯坦的投資。該網站還包含中東智庫專家、哈佛大學畢業的律師和該網站執行長、巴基斯坦電視新聞主播莫伊德·皮爾扎達（Moeed Pirzada）撰寫的文章。布魯斯特說，夾在這些普通故事中間的是人工智慧生成的文章。

NewsGuard在調查期間聯繫該組織後，「內塔尼亞胡精神科醫生」文章被重新標記為「諷刺」。NewsGuard表示，這個故事似乎是根據2010年6月發表的一篇諷刺文章改編的，該文章對一名以色列精神科醫生的死亡做出了類似的說法。

將真實新聞和人工智慧產生的新聞放在一起，會讓欺騙性的故事更可信。媒體和人工智慧專家表示，類似「地球村空間」的網站可能會在2024年各種選舉期間激增，成為傳播錯誤訊息的有效方式。

創建這些網站的動機各不相同。有些是為了動搖政治信仰或造成嚴重破壞。布魯斯特說，還有一些網站大量生產兩極化的內容來吸引點擊並獲得廣告收入。但他補充說，增強虛假內容的能力是重大的安全風險。

「危險在於人工智慧的範圍和規模……尤其是與更複雜的演算法結合使用時。」美國辛辛那提大學錯誤訊息專家兼新聞學教授杰弗裡·布萊文斯（Jeffrey Blevins）對媒體表示，「這是一場我們從未見過的規模的資訊戰。”

布萊文斯表示，人們應該留意文章中的線索、“危險信號”，例如“非常奇怪的語法”或句子結構中的錯誤。但最有效的工具是提高一般讀者的媒體素養。他補充說，監管基本上不存在，政府可能很難打擊假新聞內容，就把這個問題留給了社群媒體公司，但它們迄今為止做得併不好。而快速處理這類網站是不可行的，因為它們重新建立的速度也很快。「這很像玩打地鼠遊戲。」他說。