一場網絡宣傳活動利用AI生成的頭像製造假記者
《每日野獸》網站調查發現,一個由虛構的記者、分析師和政治顧問組成的網絡,被用來在一系列媒體上刊登有利於某些海灣國家的觀點文章。至少有19個虛假的人設被用來撰寫發表在數十家主要是保守派出版物上的專欄文章,AI生成的作者頭像被用來欺騙目標,讓他們相信作者是真人。
這不是第一次以這種方式使用人工智能,去年,美聯社一份報告在LinkedIn上發現了一個虛假的個人資料,這可能是一個間諜網絡的一部分,試圖與專業目標建立聯繫,也使用了AI生成的頭像。像ThisPersonDoesNotExist.com這樣網站所創建的AI生成個人資料圖片在構建假的在線角色時有一些獨特的優勢。最重要的特點是,每張圖片都是唯一生成的,這意味著它們無法通過反向圖像搜索追溯到源圖片。然而,目前這一代的人工智能頭像並非完美無瑕。它們有一些共同的告訴,包括奇特的牙齒、不對稱的特徵、模糊成無物的頭髮、奇怪地融化的耳垂和不清晰的背景圖像。
在《每日野獸》調查發現的一些假作家使用的頭像中,可以看到其中一些特徵。不過也有一些人,只是使用偷來的頭像。這些角色有一些共同的屬性,這表明他們是一個單一的、協調活動的一部分。《每日野獸》發現的人設一般是阿拉伯之眼和Persia Now的撰稿人,在2020年3月或4月創建了推特賬戶,自稱是政治顧問和自由記者,大多在歐洲各國首都工作;在假的LinkedIn賬戶中謊稱自己的學術或專業資格;使用假的或偷來的頭像,以擊敗反向圖像搜索。
雖然不清楚是誰創建了這個網絡,但假作家發表的專欄文章確實具有某些編輯價值。他們主張對伊朗實施更多的製裁,讚揚阿拉伯聯合酋長國等某些海灣國家,並批評卡塔爾,目前由於卡塔爾被指支持恐怖主義,阿聯酋和中東其他國家對其實施了外交和經濟封鎖。該網絡被用來創作專欄文章,發表在《華盛頓觀察家》和《美國思想家》等美國媒體,以及《耶路撒冷郵報》和《阿拉比亞報》等中東報紙上,甚至在香港的英文刊物《南華早報》上。由於《每日野獸》的調查,Twitter已經暫停了15個屬於假作家的賬號。