9 月26 日颶風「海倫妮」從佛羅裡達州登陸美國，襲擊美國南部多州多地，至今已造成超過230 人死亡，「海倫妮」也已經成為2005 年「卡崔娜」颶風以來，導緻美國本土死亡人數最多的颶風。同時，一張AI 生成的照片，也在社群媒體上掀起軒然大波，甚至在下個月選舉來臨之前，引發了兩黨的「紅藍對決」。

到底是什麼圖片，能比颶風帶來的影響更嚴重？ 颶風營救or 非洲禿鷹共和黨全國委員會的委員、Women for Trump 的聯合創始人Amy Kremer 發在X 上推文“這張照片深入腦海，令我心痛”，配圖是一個楚楚可憐的小女孩，身著救生衣，在救生艇上眼中含淚抱著一隻小狗。

這類聚焦在單一受害者，無辜的女孩必須躲避災禍的照片，都非常容易調動起人們的同情心，就像那張《飢餓的蘇丹》，瘦骨嶙峋的小女孩背後是一隻緊盯著她的禿鷹，越戰中躲避燃燒彈的《凝固汽油彈女孩》激起過無數年輕人的反戰情緒，那張學習中的「大眼女孩」也讓希望工程深入人心。因此這張「颶風中緊抱小狗的女孩」照片也在社群媒體上被大量轉發。

但在情緒過後仔細再看，小女孩的手臂和腿部極度光滑且膚色不符，頭髮也呈現非常奇怪的紋理，大拇指骨節也呈現怪狀凸起。沒錯，這張照片是一張AI 產生的圖片。

這張AI 痕跡更濃了，但不妨礙收穫百萬級觀看量｜圖片來源：X

在被評論區的人指出「假圖」之後，Kremer 直接發文開懟稱「是啊，我是不知道這張照片是從哪裡來的，說老實話，哪裡來的無所謂。它已經永遠烙印在我的腦海中了，有些人比這張照片所顯示的經歷還要糟糕得多。因為她的目的不在於同情這位“AI 女孩”，而是攻擊執政黨應對“海倫妮”颶風的失責。因為類似的AI 照片也被極右翼政客Laura Loomer、共和黨KOL 及特朗普支持者Buzz Patterson和Juanita Broaddrick 轉發，配文則是“我們的政府又讓我們失望了”或“執政者拋棄了他們” 。這些推文的傳播量均已上百萬。

傳播只為甩鍋｜圖片來源：X

AI 假圖片已經成了黨派之間相互掣肘的政治工具，伴隨著這張照片一同傳播的還有各種陰謀論和假新聞，諸如“聯邦緊急事務管理局正在準備把災民財產充公”“當局在控制共和黨支持州（颶風受災州多為支持共和黨的（紅州）天氣」。相應的，Facebook 上也流傳著川普冒著洪水幫助居民的圖片，當然也是AI 合成的。該貼文在兩天內被分享了超過16 萬次。

圖片來源：PolitiFact

川普本人也在前不久泰勒絲公開表態支持民主黨總統候選人哈里斯後，在自己的X 上發布了「Swifties for Trump」（支持川普的泰勒粉絲），附上的圖片全是AI 生成的假圖。

圖片來源：X

這並不是川普第一次發AI 假圖，作為馬斯克支持的候選人，川普不可能沒有分辨AI 內容的能力，畢竟不久前他還發布了他和馬斯克一起跳舞的DeepFake AI合成影片。但在碎片化的社群媒體平台，政客們不在乎訊息真假，不管是實拍還是AI 生成的照片，只要有傳播效力即可，造勢才是社群平台上政治宣傳的首要目的，感性的印象取代客觀事實，「造謠一張嘴，闢謠跑斷腿」的傳播學原理在AI 時代更猛烈地迴響著。 誰在製造AI 垃圾但追根溯源，這些AI 假內容是誰生成的，又怎麼在各種社交媒體上廣泛傳播，能騙一個是一個的呢？這張圖加配文「親手製作，謝謝大家的喜歡」在Facebook 上收穫了87 萬點贊，3.5 萬的評論，然而它是AI 生成的一張假圖片。而餵給AI 的原圖，則是一個木雕藝術家Michael Jones 和他創作真實存在的木雕狗，Jones 的原帖只獲得了1063 個贊，110 條評論，與AI 假帖相去甚遠。

同時，在Facebook 上還流傳著不同種族、性別、狗的品種的類似圖片，它們的來源都是Jones 的這張圖，這意味著任何人都可以每小時用AI 創造上百張以假亂真的圖像，然後在社群平台上隨即發布，總有幾條能斬獲不錯的流量和曝光。其中，Facebook 是重災區。

去年底，科技網站404 Media 的記者發現，Meta 旗下的Facebook 上明顯是AI 生成內容的貼文數量激增，同時也擴散到Meta 旗下的Threads。

Facebook 這種「一眼假」的圖片數據都驚人的好｜圖片來源：Facebook

為什麼Facebook 是重災區？原因很簡單：平台演算法化趕上了用戶老化。在最近的財報電話會議上，Meta CEO 祖克柏告訴分析師，為了跟上TikTok 等平台的變化，Facebook 向用戶演算法推薦的貼文數量翻了一倍，推薦貼文現在約佔用戶主頁的30 %。然而根據OBERLO 調查機構的數據顯示，Facebook 25 歲以上用戶佔比達77.4%，其中35 歲用戶以上佔比達46.6%。對於大量出生在前網路時代，可能在中年才開始使用社群媒體和智慧型手機的中老年人來說，理解AI 是什麼都費勁，更別提鑑別AI 內容了。

8 月由史丹佛網路實驗室發布的論文《垃圾內容和騙子如何在Facebook 上利用人工智慧生成的圖像來增加受眾》也在測試中發現，他們用AI 生成的圖像總共獲得了數億次曝光。 AI 生成的圖文帖通常是標題黨配合奪人眼球的圖片，例如一個斷腿的小孩子舉著牌子說「祝我生日快樂」就能收穫7 萬點讚和3000 條評論。使用者的評論也能顯示他們並沒有意識圖片是由AI 產生。

而且演算法推薦就像一個上升的螺旋，研究者發現，在點進幾個AI 生成內容帖後，即使沒有關注和點贊，後續自己的主頁也會推送越來越多的AI 帖。已經有一些活人用戶在Reddit 上辣評“Facebook 已經變成刷不完的Midjourney AI 照片牆了。”

一眼AI 但能收穫大量流量｜圖片來源：404

騙流量之外，AI 假圖片還想騙錢，比如就像上面顯示的木雕狗，可能帖子裡就會附贈“購買同款木製品”的鏈接，實際上並不存在這些產品，又或者會把觀眾引流到其他廣告網站，像上面最火紅的木雕狗帖，點開評論區就發現置頂了一條寵物用品的銷售連結。更吊詭之處在於，許多照片可能正是用Meta AI 所生成，Meta AI 的目的之一就是讓照片以假亂真，然而這些照片騙過了自己的用戶，矛盾至此轉換成了流量的循環。 AI 產生垃圾內容影響的不僅是「老化」的Facebook，就連曾經以高品質文字內容出名的「美版知乎」Quora，都必須面對AI 生成內容去稀釋社群內容品質的現狀。更糟之處也在於，現在許多AI 生成圖片正在和現實牢牢捆綁在一起，就比如海倫妮颶風尚未平息，但在AI 假圖被識破後，每個用戶都會質疑每一張照片的真實性，即使它是基於現實的實拍照片，在經過大量假內容稀釋後，都要面臨「真假美猴王」自證清白的窘境。巴以衝突、美國大選、巴西洪水、海倫妮颶風……這些現實生活中真實發生的天災人禍，在碎片化、簡介信息、圖文為主且注重高度時效性的內容社區來上，戰地記者的實拍圖收到的瀏覽量可能遠比不過AI 產生的假圖片。而這些內容往往都針對毫無戒心的老年人，他們基於同情心，貢獻了自己的點讚和轉發，不知不覺中卻成了演算法的幫兇。而這些AI 的養料則是基於原創但不被看見的藝術家。而作為具有重要責任的社交平台，例如Meta，則陷入了AI 的自我「矛盾之戰」：用戶使用Meta 的AI 工俱生產出虛假信息和垃圾信息，將其發佈到Meta 平台，而Meta 的AI 團隊則需要透過科技鑑別到底哪些是真實圖片，哪些是AI 生成的。其中的諷刺耐人尋味──AI生成技術團隊越進步，審核和鑑別團隊就越難做。在垃圾資訊已經充斥網路的當下，AI 生成工具的誕生，無疑地再次為網路垃圾化的進行提供了加速度。如果無法解決這個挑戰，被「困在系統中」的不僅是用戶，後者平台，而是所有人。