Meta 公司的人工智慧助理錯誤地表示，前總統唐納德-川普（Donald Trump）最近未遂的暗殺事件並未發生，該公司的一位高管現在將這一錯誤歸咎於為其聊天機器人和其他機器人提供支援的技術。

在周二發表的一篇公司部落格文章中，Meta 公司全球政策主管喬爾-卡普蘭（Joel Kaplan）稱其人工智慧對槍擊事件的問題的回應是「不幸的」。他說，Meta AI 最初的程序設定是不回答有關暗殺未遂的問題，但在人們開始注意到這一點後，該公司取消了這項限制。他還承認，”在少數情況下，Meta AI 繼續提供不正確的答案，包括有時斷言事件沒有發生–我們正在迅速努力解決這個問題”。

「這類反應被稱為幻覺，這是我們在所有生成式人工智慧系統中看到的一個全行業問題，也是人工智慧如何處理即時事件的一個持續挑戰。」負責Meta 遊說工作的卡普蘭繼續說道。 “與所有生成式人工智慧系統一樣，模型可能會返回不準確或不恰當的輸出結果，我們將繼續解決這些問題，並隨著它們的發展和更多人分享反饋意見而改進這些功能。”

陷入困境的不僅是Meta：週二，Google也不得不駁斥有關其搜尋自動完成功能審查有關暗殺企圖的結果的說法。

“又來了，又一次試圖操縱選舉！！”川普在“真相社交”網站上發文稱。 “追擊Meta和Google”。

自從ChatGPT 橫空出世以來，科技業一直在努力解決如何限制生成式人工智慧的虛假敘述的傾向。有些公司，如Meta，試圖以高品質的數據和即時搜尋結果作為聊天機器人的基礎，以此來彌補幻覺。但正如這個特殊的例子所顯示的那樣，大型語言模型的固有功能–胡編亂造仍然難以克服。