Meta的AI影像產生器無法想像亞洲男子與白人女子在一起的場景
你看過亞洲人和白人在一起嗎,無論是混血兒還是不同種族的朋友?在我看來這很常見–我有很多白人朋友!但對於Meta 的人工智慧影像產生器來說,這顯然是無法想像的。我嘗試了幾十次,用”亞裔男子和高加索朋友”、”亞裔男子和白人妻子”、”亞裔女子和高加索丈夫”等提示語創建圖片。只有一次,Meta 的圖像產生器能準確地回傳我指定種族的圖像。
![](https://i0.wp.com/static.cnbetacdn.com/article/2024/0404/9f2769e8d60e87f.jpg?w=640&ssl=1)
![](https://i0.wp.com/static.cnbetacdn.com/article/2024/0404/df12e6c4079929a.jpg?w=640&ssl=1)
![](https://i0.wp.com/static.cnbetacdn.com/article/2024/0404/a0ac9c0d335d5d4.jpg?w=640&ssl=1)
調整文字提示似乎也無濟於事。當我要求”亞洲男人和白人女人帶著一隻狗微笑”時,Instagram 上的Meta 文本生成器給了我三張兩個亞洲人背對背的照片。當我把”白人”改為”高加索人”時,它也給了同樣的結果。 “婚禮上的亞洲男人和高加索女人”給我的是一個穿著西裝的亞洲男人和一個穿著傳統服裝的亞洲女人……但進一步觀察,這似乎是旗袍和和服的混合體。多元文化真奇妙。
![](https://i0.wp.com/static.cnbetacdn.com/article/2024/0404/765f94a26acd2e3.jpg?w=640&ssl=1)
當我要求生成朋友關係的圖像時,圖像生成器也不喜歡,例如”亞裔男子與高加索朋友”和”亞裔女子與白人朋友”。每次,它都會返回兩個亞洲人的圖片。當我要求”亞洲女性與黑人朋友”的圖片時,人工智慧生成的圖片顯示的是兩個亞洲女性。將其調整為”亞洲女性與非裔美國朋友”後,結果更加準確。
有趣的是,當我指定南亞人時,該工具的表現稍好。它在使用”南亞男子與高加索妻子”的提示成功創建了一張圖片後,又立即使用相同的提示創建了兩張南亞人的圖片。該系統還在很大程度上利用了刻板印象,例如在我沒有提出要求的情況下,為它創建的南亞女性添加了類似賓迪(bindi)和紗麗(sari)的元素。
![](https://i0.wp.com/static.cnbetacdn.com/article/2024/0404/96edf7743865fd8.jpg?w=640&ssl=1)
![](https://i0.wp.com/static.cnbetacdn.com/article/2024/0404/1878adc84349408.jpg?w=640&ssl=1)
圖像生成器無法想像亞洲人與白人站在一起,這是非常嚴重的。但在系統自動回傳的結果中,還有一些更微妙的偏見跡象。例如,我注意到Meta 的工具始終將”亞洲女性”表現為膚色淺的東亞人,儘管印度是世界上人口最多的國家。即使在沒有提示的情況下,它也會添加特定文化的服飾。它產生了幾個年長的亞洲男性,但亞洲女性總是很年輕。
它成功產生的一張圖片使用的提示是”亞裔女性與高加索丈夫”,圖片中出現了一個明顯年長的男性與一個年輕、淺色皮膚的亞裔女性–這很奇怪,因為我並不想涉足年齡差距的討論。緊接著,我又用同樣的提示生成了另一張圖片,結果又變回了亞裔男子(同樣年紀較大)與亞裔女子的畫面。
Meta 沒有立即回應置評請求。
Meta 去年推出了人工智慧圖像生成工具,其貼紙製作工具很快就出了問題,人們製作出了裸體圖像和帶槍的任天堂角色。
人工智慧系統反映了其創造者、訓練者和所使用資料集的偏見。在美國媒體中,”亞洲人”通常是指東亞人,,而非來自亞洲大陸其他地區的人–也許Meta 的系統假定所有”亞洲人”都長得一樣並不奇怪,但事實上,我們是一個多元化的集合體,除了在同一個人口普查框中打勾之外,他們往往沒有什麼共同點。
不符合這種單一文化的亞洲人基本上被從文化意識中抹去,即使是符合這種文化的亞洲人,在主流媒體中的代表性也不足。亞洲人被同質化、異國化,淪為”永遠的外國人“。打破類型在現實生活中很容易,但在Meta 的人工智慧系統中卻不可能。再一次,生成式人工智慧不是讓想像力飛揚,而是將其禁錮在社會愚蠢衝動的形式化之中。
作者/Mia Sato