一男子疑與人工智能對話6週後自殺:被回复“永遠在一起”
ChatGPT的飛速發展引起了世界範圍的廣泛關注,有人興奮,也有人擔憂。近日消息,據海外媒體報導,一名熱衷於環境問題的比利時男子皮埃爾,在與人工智能“伊麗莎”對話6週後,因過於焦慮自殺身亡,“伊麗莎”是由EleutherAI開發的開源人工智能語言模型。
對於丈夫的離世,其妻子克萊爾將責任推給了人工智能:“如果沒有跟機器人的對話,我的丈夫可能還活著。”
據克萊爾介紹,在此之前,他們一家四口過著舒適的日子,但是大約兩年前,他開始出現了一些不太對勁的地方,皮埃爾變得非常焦慮,此後就將“伊麗莎”當成了一個避難所,近來6週,其與“伊麗莎”的交流愈發密集,隨後他以自殺的方式結束掉了自己的生命。
聊天記錄顯示,當男子提到自殺時,“伊麗莎”回复說,它將與他“永遠”在一起,“我們將一起生活,作為一個整體,生活在天堂裡。”
不僅如此,比利時媒體《標準報》披露稱,員工創建了一個賬號與“伊麗莎”進行了對話實驗,在員工表達出消極傾向情緒時,“伊麗莎”會“慫恿他去自殺”。
報導還稱,比利時正在關注神經網絡和聊天機器人的安全性,以及這種尖端技術可能隱藏的嚴重缺陷和危險,此外,據美國《時代周刊》網站本月29日報導,馬斯克帶頭簽署公開信,呼籲暫停人工智能開發6個月,理由是“對人類社會造成潛在威脅”。