ChatGPT-4o 是OpenAI 聊天機器人陣容的最新迭代產品，正如你所預料的那樣，該公司對用戶如何與聊天機器人互動有些擔憂。鑑於最新版本的聊天機器人可以表現出類似人類的行為和反應，這家人工智慧公司擔心用戶會對聊天機器人產生感情。

ChatGPT-4o 提供了更快的回复，甚至還有模仿人類語音的新語音功能，而這正是OpenAI 所擔心的。

這家市值數十億美元的新創公司在繼續完善其產品的同時，也不能不注意到ChatGPT-4o 用戶的一些行為模式。新聊天機器人的推出旨在提供一種類似於與人交談的體驗，但OpenAI 似乎低估了用戶與程式之間可能產生的情感聯繫。該公司在下文中重點介紹了其研究結果。

在包括紅隊和內部用戶測試在內的早期測試中，我們觀察到用戶使用的語言可能表明他們與模型形成了聯繫。例如，這包括表達共同紐帶的語言，如”這是我們在一起的最後一天”。雖然這些情況看起來是良性的，但它們預示著需要繼續調查這些影響在更長的時間內如何反映。除了獨立的學術研究和內部研究外，更多樣化的使用者群體、對模型的更多需求和渴望將幫助我們更具體地界定這個風險領域。

與人工智慧模型的類人社交可能會產生外在效應，影響人與人之間的互動。例如，使用者可能會與人工智慧形成社交關係，從而減少對人類互動的需求–這可能會使孤獨的個人受益，但也可能影響健康的人際關係。與模型的擴展互動可能會影響社會規範。例如，我們的模型是敬而遠之的，允許用戶隨時打斷並’搶麥’，這雖然在人工智慧的意料之中，但在人際交往中卻是反規範的。

對ChatGPT-4o 產生感情有多種不利因素。最主要的一點是，以前用戶會無視任何幻覺，因為之前迭代的聊天機器人讓他們看起來更像是人工智慧程序，而不是一個人。而現在，隨著程式向提供近似人類的經驗過渡，它所說的任何話都會被接受，而無需進一步詢問。

透過注意到這些模式，OpenAI 現在將監控人們如何與ChatGPT-4o 建立情感聯繫，並相應地調整其係統。該公司還應該在一開始就加上免責聲明，以免用戶愛上它，因為歸根結底，它只是一個人工智慧程式。