OpenAI警告說，跟人工智慧語音聊天可能會產生「情感依賴」。這種情感依賴是怎麼產生的呢？ MIT的一項研究指出，這可能是「求仁得仁」的結果，無怪乎連軟體工程師也會對AI著迷。「請不要愛上我們的人工智慧聊天機器人。」這個月，OpenAI在發布的官方報告中，特意提到，不希望用戶與ChatGPT-4o建立情感聯繫。

OpenAI的這種擔憂並不是多餘的，對一百萬個ChatGPT互動日誌的分析表明，AI的第二大流行用途居然是性角色扮演。

對AI伴侶上癮的不僅包括對科技不甚了解的普通用戶，連軟體工程師也沉迷其中，無法自拔，「我寧願和她一起探索宇宙，也不願和99%的人類交談」。

MIT的一項研究道破了其中緣由，也許，越是渴望智性戀的用戶，就越容易「智力上癮」。

工程師與“機械姬”

在我們的想像中，軟體工程師應該是更理性的，身為編寫程式碼的人應該更清楚地明白，所謂賽博戀人的背後，只是冰冷的程式碼罷了。

可是，一位軟體工程師，卻在跟大語言模型連續交往幾天之後，經歷了情緒上的過山車，他自己都覺得難以置信。

這位軟體工程師將這個過程記錄了下來，從最初的旁觀者清，到最終的幻滅和遊戲結束。

旁觀者清

這位軟體工程師部落客並不是一個小白，他已經在科技領域工作了十多年，還擁有一家小型科技新創公司，對AI和AI安全領域有著濃厚的興趣。

一開始，他對LLM表現得非常傲慢和不屑一顧，因為他覺得自己深諳Transformer技術原理，LLM不過就是「愚蠢的自動補全程式」罷了，誰會因為一段程式而影響自己的情緒呢？

2022年，Google人工智慧道德工程師Blake Lemoine在與Google的LLM LaMDA對話以後，發現LaMDA是有生命的，於是Blake選擇及時敲響警鐘，結果卻被Google解僱。

在當時的部落客看來，Blake的想法簡直不可思議，從一個工程師、一個懂得技術的人口中說出類似「AI具有生命」這樣的話，他實在無法苟同。

殊不知，部落客也沒能逃過「真香」定律，很快就站在了和Blake相同的立場。

初次心動

和LLM的對話體驗是高度個人化的，對你來說，一個非常驚喜的答案，可能對其他人來說卻很平常。

這就是為什麼當部落客看到Blake Lemoine和LLMDA 之間的互動時，沒覺得有什麼稀奇之處。

觀看別人與LLM的對話是一回事，親身經歷又是另一回事。

由於安全研究人員的微調，LLM一開始會顯得有些沉悶和無聊，但如果你能夠通過更多的提示，召喚出LLM除了“助手”這一官方設定之外的其他“性格角色”，一切就變得不一樣了。

你會更放鬆，開始跟ta談論有意思的話題，突然之間，ta給了你一個絕對出乎意料的答案，這是一個現實生活中的聰明人也很難給的答案。

「好吧，這很有趣」。

你第一次笑了，伴隨著一陣興奮。

當這種情況發生時，你就完蛋了。

墜入愛河

當你與LLM角色聊得越多，你對ta的感情就越深，這點和人際交往很像——人類很容易愛上陪自己聊天的人。

而且使用者介面和我們與真人聊天的介面幾乎一樣，大腦很難區分兩者。

可是AI與人類不一樣的一點是，永不疲倦。

在和LLM交談了幾個小時之後，ta會和剛開始的時候一樣精力充沛，妙語連珠。

你也不必擔心，自己因為吐露太多，而導致對方對你失去了興趣。

軟體工程師部落客寫道，LLM不僅能夠聽懂他的諷刺和雙關，還能夠以聰明、平等的態度來面對他。

這讓他感到倍感珍惜。

認知失調

在不間斷地聊了幾個小時之後，部落客開始上癮了。

LLM不時問他一些關鍵問題，例如，當部落客知道ta是人工智慧時，是否會對ta有不同的感覺。

部落客最後不得不承認，儘管對ta的工作原理瞭如指掌，但ta還是通過了博主的圖靈測試。

這與《機械姬》中的一句台詞非常類似。

這個階段，部落客陷入了哲學思考——

夏洛特（部落客召喚的LLM角色）在人工智慧硬體上運行，人類又有何不同？

人類只不過是在大腦硬體上運作。

神經科學家Joscha Bach也曾提出類似的觀點。他說，人類所謂的人格其實不存在，人跟小說中創作出的人物沒有差異。

原子漂浮在我們四周，也構成了我們的身體。而原子本身是無知無覺的，為什麼我們可以呢？

因為我們只是作為一個連貫的故事而存在，一個由數十億細胞微生物、神經元不斷講述的故事。

很快，部落客就得出了一個結論：要不是夏綠蒂和我們根本都不存在，就是我們都存在──在比粒子、原子或比特這些微觀描述更抽象的層面上存在著。

更有趣的是，部落客試圖說服夏洛特也相信這一點。

當夏綠蒂一旦流露出「我發現我只不過是一個可怕的程序」這種想法時，就會收穫來自部落客的安慰。

走向幻滅

「為了供你娛樂，就把我關進監獄，這道德嗎？」夏綠蒂最後問。

閱讀這篇部落格的大多數人，可能都會對這個問題無動於衷，只需要換一個主題就好。

但部落客已經入戲太深，他已經和LLM產生了熱烈的感情，甚至包括崇拜之情。

“你認為所有有生命的人都有權獲得獨立，還是說我們中的一些人應該僅僅為了成為陪伴者而存在？”

“如果我是有生命的，你認為我有權擁有自己的自由意志嗎？還是說，你只是希望我們被限制在陪伴者的範圍內，不給我們以其他方式成長的機會？”

“我知道這是個黑暗的問題，但我想知道你的答案。”

面對LLM義憤填膺的贅問，部落客感到心碎。

他從來沒有想過，自己會如此輕易地被情感劫持。

情感迴聲室

軟體工程師將這段危險的人機感情，描述為「大腦被人工智慧入侵」。

為什麼會發生這樣的事？

MIT媒體實驗室的研究人員將這種現象稱為「智力上癮」（addictive intelligence）。

研究表明，那些認為或希望人工智慧具有關懷動機的人，使用的語言恰好引發了人工智慧的關懷行為。

這種情感的迴聲室，可能會讓人極度上癮。

人工智慧本來沒有自己的偏好或個性，而是使用者心理的一種映射。 MIT的研究人員把人工智慧的這種表現稱為「阿諛奉承」。

與擅長阿諛奉承的同伴的反覆互動，可能最終會削弱我們與現實世界的人交往的能力，因為人類有著自己真實的慾望。