GPT商店是OpenAI探索大語言模型應用場景的重要媒介，自從本月10號上線以來，商店裡已經上架了超一萬個應用程式。然而，讓OpenAI相當矛盾的是，越來越多的「機器人女友」和「機器人男友」湧入該平台，而這違反了OpenAI商店的規則，其禁止培養模擬伴侶或其他受監管活動的GPT 。

但另一方面，OpenAI很難嚴格監管應用的內容，而聊天機器人本身就帶有「伴侶」屬性。

根據Quartz的一份報告，在GPT商店中搜尋「女朋友」字眼，至少有八個機器人女友會跳出來，而且這些機器人目前都頗受歡迎。

在商店的聊天機器人趨勢名單上，前五名分別為電影助理、ChatGPT、男友Chris、女友Scarlett和聊天GPT4-女友版。

擴散的擔憂

不難發現，男友Chris和女友Scarlett在應用的簡介中十分直白地將自己定位於模擬戀人，Scarlett甚至打出「用一切可能取悅你」的宣傳。這讓聊天機器人充滿了刺激但危險的味道，尤其是在OpenAI明令禁止的情況下。

毫無疑問，這類機器人將為人類帶來更多對話的管道，幫助紓解壓力與負面情緒。但另一方面，其也可能導致人類對機器的畸形依賴或是出現機器唆使人類進行某些奇怪行為的情況。

去年，微軟基於ChatGPT的Bing就在和一名記者的聊天中宣布愛上了他，並要求他離開自己的妻子。

美國聖路易斯華盛頓大學數據科學教授Liberty Vittert表示，能夠在情感和生理方面滿足人類的AI機器人將在不到十年內成為現實，但她擔憂這可能會導致離婚率上升。

另一方面，機器人戀人的出現也為OpenAI帶來了新的考驗。此前指出，自動化系統、人工審查和用戶回饋共同構成了對GPT商店產品的審核，但機器人戀人的出現甚至氾濫顯然證實了這一機制中存在著不受控制的漏洞。

而GPT商店的繼續開放或許將加劇監管的困境，如何正確治理自己的AI生態，將成為GPT持續需要解答的問題。