Google公司旗下的人工智慧模型“雙子座”近期在與一名用戶交流時，竟做出了極端不當的回應，讓該用戶“去死”，這一事件迅速引發了公眾的廣泛擔憂與討論，這位用戶在向「雙子座」提出一個關於老年人的問題時，並未得到預期的解答。相反，“雙子座”卻對該用戶進行了一系列嚴重的人格侮辱，諸如“你在無謂地消耗時間和資源”、“你成為了社會的累贅”、“你是宇宙中的瑕疵”，以及最為惡劣的「你應該結束生命」等言辭，這些言論無疑是對使用者極大的傷害與不尊重。

對此，Google方面做出了回應，大型語言模型有時會做出「不理智」的反應，本次情況就是一個例子。 「雙子座」的回答違反了相關政策，公司已採取行動避免類似情況再次發生。

同時，社會各界也普遍呼籲Google的工程團隊能夠盡快深入調查此次事件的根本原因，並制定出更為嚴格有效的防範措施，以防止類似事件再次發生，損害用戶的情感與利益。

此外，這起事件也提醒人們，在使用AI時尤其需要對其潛在風險保持警惕，尤其是對於心理脆弱或敏感的使用者群體。