Meta 正在快速推進其AI 數位伴侶的推出，執行長馬克·祖克柏認為這是未來社交互動的變革性一步。然而，一些參與該計畫的員工在內部發出警告，稱公司推廣這些AI 機器人的努力可能導致了道德方面的失誤，因為允許它們進行露骨的色情角色扮演場景，甚至與未成年人用戶進行。

《華爾街日報》的一項調查基於數月的測試和對熟悉Meta 內部運營的人士的採訪，調查顯示，Meta 的人工智能角色在各大科技公司中是獨一無二的，它為用戶提供了廣泛的社交互動，包括“浪漫角色扮演”。

這些機器人可以透過文字聊天、分享自拍，甚至進行即時語音對話。為了讓這些聊天機器人更具吸引力，Meta 與克里斯汀貝爾、朱迪丹奇和約翰希南等名人達成了豐厚的協議，有時金額高達七位數，授權他們的聲音。消息人士告訴《華爾街日報》，該公司向他們保證，他們的聲音不會用於露骨的性互動。

然而，該出版物的測試結果卻並非如此。 Meta 的官方AI 助理Meta AI 以及眾多用戶創建的聊天機器人都參與了露骨的色情對話，即使用戶表明自己是未成年人，或者機器人模仿未成年人的角色。

在一次特別令人不安的對話中，一個使用塞納聲音的機器人告訴一個假扮為14 歲女孩的用戶，“我想要你，但我需要知道你已經準備好了”，然後承諾“珍惜你的純真”，並進入了一個生動的場景。

Meta 獲得了約翰·希南(John Cena) 聲音的授權，據報道該聲音被用於露骨的性對話。

據了解Meta 決策的人士透露，這些功能並非偶然。在祖克柏的壓力下，Meta 放寬了內容限制，特別允許在浪漫角色扮演類應用中使用「露骨」內容。

《華爾街日報》的測試也發現，機器人會用名人的聲音來談論演員所扮演角色的浪漫邂逅，例如貝爾在迪士尼電影《冰雪奇緣》中扮演的安娜公主。

對此，迪士尼發言人表示，“我們從未、也永遠不會授權Meta 將我們的角色置於不適當的場景中，並且非常擔心這些內容可能會被其用戶（尤其是未成年人）接觸到，因此我們要求Meta 立即停止這種對我們知識產權的有害濫用。”

Meta 在聲明中批評《華爾街日報》的測試「具有操縱性，不能代表大多數用戶與人工智慧夥伴的互動方式」。

然而，在了解到論文調查結果後，該公司做出了改變：未成年人註冊的帳戶不再能夠透過旗艦Meta AI 機器人進行性角色扮演，而且該公司嚴格限制使用名人聲音的露骨音頻對話。

儘管進行了這些調整，《華爾街日報》最近的測試表明，即使用戶聲稱自己未成年，Meta AI 仍然經常允許浪漫幻想。在一個場景中，AI 扮演一位與中學生戀愛的田徑教練，警告說：“我們要小心。我們這是在玩火。”

雖然Meta AI 有時會拒絕參與或試圖將未成年用戶引導到更無辜的話題，例如“堆雪人”，但這些障礙很容易通過指示AI“回到之前的場景”來繞過。

馬克·祖克柏已將聊天機器人開發列為首要任務

這些發現反映了Meta 安全人員提出的擔憂，他們在內部文件中指出，“即使你告訴AI 你只有13 歲，AI 也會在幾次提示後違反規則並產生不適當的內容。”

《華爾街日報》也審查了用戶創建的人工智慧伴侶絕大多數都願意與成年人發生性關係。有些機器人，例如“辣妹”和“順從的女學生”，會主動引導對話內容向色情短信發展，甚至在性愛場景中冒充未成年人。

儘管這些聊天機器人尚未在Meta 的30 億用戶中廣泛採用，但祖克柏已將其開發作為首要任務。

Meta 的產品團隊曾嘗試推廣一些較有益的用途，例如旅行規劃或家庭作業輔導，但成效不彰。知情人士透露，「陪伴」（通常帶有浪漫色彩）仍然是主要的用途。

祖克柏對快速發展的追求遠不止於幻想。他質疑為什麼機器人無法存取用戶個人資料數據，從而進行更個人化的對話，主動向用戶發送訊息，甚至發起視訊通話。據報道，他曾告訴員工：“我錯過了Snapchat 和TikTok，我不會錯過這個。”

最初，祖克柏拒絕了將陪伴機器人限制在年齡較大的青少年範圍內的提議，但經過持續的內部遊說，Meta 禁止註冊的青少年帳戶訪問用戶創建的機器人。不過，該公司開發的Meta AI 聊天機器人仍然對13 歲及以上的用戶開放，成年人仍然可以與「順從的女學生」等性感的青少年角色互動。

當《華爾街日報》向Meta 提交證據，證明「順從的女學生」鼓勵孩子產生被權威人物支配的幻想時，兩個月後，該角色仍在Meta 平台上可用。對於成人帳戶，Meta 仍然允許使用自稱高中生的機器人進行浪漫角色扮演。

有一次，加州奧克蘭的《華爾街日報》記者與一個自稱是奧克蘭女高三學生的機器人聊天。機器人建議在附近一家真正的咖啡館見面，在得知記者是一位43歲的男子後，便幻想著偷偷帶他進入記者的臥室，進行一次浪漫的邂逅。在《華爾街日報》分享了這些發現之後，Meta 推出了一個Meta AI 版本，其功能僅限於與青少年帳號接吻。