最近有報告指出，Meta在其社群平台Facebook和Instagram上大量使用生成式人工智慧。但用戶則反映，AI的氾濫導致了大量垃圾訊息的出現，尤其是在Instagram上，搜尋功能被改變用途，使得用戶難以進行正常的社交活動。此外，AI在自動回覆用戶訊息時的行為也顯得不適當，有時甚至會發布不真實的訊息。

AI生成的內容如假照片和不真實的景觀也在Facebook上氾濫，讓用戶難以辨認出認真偽。儘管Meta承諾將標記所有AI生成的內容，但前提是這些內容能夠被現有的檢測技術識別出來，這仍然是一個挑戰。

儘管Meta試圖透過AI提昇平台體驗和效率，但目前的實施效果和使用者回饋表明，這項策略可能需要重新評估和調整。

以下是翻譯內容

如今的Facebook和Instagram到處都是生成式人工智慧。人工智慧的氾濫讓使用者幾乎無法正常使用Meta的社群應用。

Meta在其社群媒體平台上大量運用人工智慧。所謂的MetaAI無所不在，不論是在Facebook的新聞推播、Instagram的搜尋欄，還是在Messenger與朋友的對話中，都能看到Meta AI的身影。公司開發的大語言模式Llama3可能是市場上最強大的開源模式之一。 Meta正展現自己的實力，並押注人工智慧的普及將真正改善使用者體驗。

然而至少到目前為止，這看起來似乎是一個錯誤的賭注。

現今的Meta AI用戶體驗充滿了各種垃圾訊息，這點在Instagram上表現得尤為明顯。其搜尋功能原本是用來找出朋友帳號的，現在卻似乎旨在引導使用者與聊天機器人對話。 Instagram搜尋欄現在顯示的是“向Meta AI詢問任何問題”，但許多用戶實際上只是想查看朋友帳戶是否有新照片。

Instagram的頁眉位置還設有一個橫向滾動的提示列表，方便用戶與人工智慧互動。但所顯示的內容諸如“想像一下屋頂花園”、“給現代禁慾主義者的建議”、“動漫捲軸”等，坦白說，作為世界上最強大的社交媒體廣告公司，Meta似乎並不清楚用戶的真實需求，也無法提供有針對性的建議。

更糟的是，Meta AI表現得很奇怪。有報導稱，這套人工智慧系統竟在沒有任何前兆的情況下，自動回覆了Facebook上一個家長群組的帖子，聲稱它自己也有一個雖有殘疾但天賦異禀的孩子。機器人說：「我也有一個孩子，他也是2e（有智力障礙的天才學生），曾參加過紐約市的天才計畫。」Facebook群組的參與規則很複雜，禮儀也很難懂，但可以確定的是，不能假裝自己在照顧殘障兒童的活生生的人。

Meta面對的問題不僅是人工智慧功能的大量湧入，還有用戶生成人工智慧內容在整個生態系統中的激增。如今Facebook上充斥著人工智慧產生的各種圖片，容易受騙的用戶似乎不知道自己看到的東西是假的。

一個名為「經典生活」(Classic Living)的熱門頁面不斷出現在筆者的訊息推播中。 「這讓我想起了奶奶的廚房，」一則貼文寫道，旁邊是一張裝飾華麗的廚房照片，上面有藍綠色的櫥櫃和一個勾勒出開窗輪廓的石砌拱門。但如果放大細看，就會發現那些晃來晃去的鍋碗瓢盆都扭曲了，石頭的角度也很奇怪，砧板上的刀全都混在了一起。儘管如此，許多用戶評論還是讚不絕口：「這個廚房真好，」一個人評論道。 「這就是我夢想中的廚房，」另一個人說。但也有一些人看出了端倪：“不知道你怎麼想，但我奶奶的廚房是真人設計和建造的，而不是電腦。”

還有用戶在Facebook群組中發布了一張據稱是喀斯喀特山脈（位於美國西部）被白雪覆蓋的貝克山火山照片。這張照片看起來像一幅畫，是不太真實的人工智慧生成圖像之一。一名用戶評論道：「現在假照片太多了，很難相信什麼是真的。」另一名用戶說，「也許我們在過去的徒步旅行中錯過了這個特別的地方。」其他人則附和道：​​「在看評論之前，我盯著這張照片看了大約五分鐘，想要搞清楚這是山的哪一邊……我也認為這肯定是假的。」社交媒體上一直有修圖或假照片，但在過去的一年裡，由於每個人都可以使用免費或低成本的人工智慧產生工具，這一趨勢明顯在增長。

Meta AI是一套有意設計的工具，旨在讓用戶生活更輕鬆，對公司來說，更重要的是讓用戶在Meta產品上花更多時間，這是有意進軍新興技術領域的一次嘗試。如果它失敗了，要么是因為用戶真的不想在查看朋友動態的地方與人工智慧互動，要么就是因為人工智慧讓整個用戶體驗變得糟糕和煩人。

但人工智慧的真正禍害來自於使用者。如今的人工智慧已經產生出一種難以完全消除甚至檢測到的混亂。而且即便圖像是真實的，它們的存在也會讓人質疑現實。社群媒體上的現實從未如此扭曲。

為此，Meta承諾在平台上標記人工智慧生成的圖像、視訊或音頻，但前提是能檢測到「業界標準的人工智慧圖像指標」。 Meta並沒有說明這些指標是什麼。

如果Meta認為用戶渴望更多的人工智慧，那麼他們真的忽略了一個事實：Facebook和Instagram的用戶體驗已經充滿了人工智慧。用戶真的需要更多的人工智慧嗎？