亞馬遜發佈人工智慧聊天機器人Q三天后，一些員工就準確性和隱私問題發出了警報。根據Platformer 獲得的洩漏文件顯示，Q 正在”出現嚴重幻覺並洩露機密資料”，包括AWS 資料中心的位置、內部折扣計劃和未發布的功能。一名員工將這一事件標記為”sev 2″，意思是這一事件嚴重到需要在晚上呼叫工程師，要求他們在周末加班修復。

Q的早期困境正值亞馬遜努力與微軟、Google和其他科技公司在建立工具和基礎設施以利用人工智慧優勢的競爭中超越亞馬遜的看法作鬥爭之際。今年9 月，亞馬遜宣布將向人工智慧新創公司Anthropic 投資40 億美元。本週二，在亞馬遜網路服務（Amazon Web Services）年度開發者大會上，亞馬遜發布了Q，這可以說是該公司本週發布的一系列人工智慧新舉措中最受矚目的一個。

在一份聲明中，亞馬遜淡化了員工討論的重要性。

發言人說：”有些員工正在透過內部管道和票務系統分享回饋意見，這是亞馬遜的標準做法。這些回饋沒有發現任何安全問題。我們感謝所有已經收到的回饋，並將繼續調整Q，使其從預覽版產品過渡到全面可用。”

Q 現已推出免費預覽版。亞馬遜高層本週在台上表示，最初，它將能夠回答開發人員有關AWS 的問題、編輯原始碼並引用來源。它將與微軟和Google的類似工具競爭，但價格至少在開始時低於競爭對手。

在發布Q 的過程中，亞馬遜高層宣傳它比ChatGPT 等消費級工具更安全。

亞馬遜網路服務公司（Amazon Web Services）執行長亞當-塞利普斯基（Adam Selipsky）告訴《紐約時報》，”由於安全和隱私問題，企業禁止使用這些人工智慧助理”。對此，《紐約時報》報道稱，”亞馬遜打造的Q 比消費者聊天機器人更安全、更私密”。

一份關於Q 的幻覺和錯誤回答的內部文件指出：”亞馬遜Q 可能會產生幻覺，並返回有害或不恰當的回答。例如，亞馬遜小Q可能會返回過時的安全信息，從而使客戶賬戶處於危險之中。文件中概述的風險是大型語言模型的典型風險，所有這些模型至少在某些時候會返回錯誤或不恰當的回答。”