繼Google的「AI概覽」（AI Overviews）功能被指責給出事實錯誤和危險的答案後，Google公司被曝出試圖手動刪除這些答案。 Google表示，這個概述範例違反了其政策，並將「採取行動」。根據內容政策刪除某些查詢的AI 概覽，並利用這些案例對系統進行更廣泛的改進，於是在這之後，許多用戶發現自己在社交媒體發布的有關GoogleAI概覽錯誤回答的內容消失了。

Google也表示，其AI Overview產品主要向用戶輸出「高品質資訊」。 Google發言人梅根·法恩斯沃斯在一封電子郵件中說：“我們看到的許多例子都是不常見的查詢，我們也看到了被篡改或我們無法複製的例子。”

此前，AI概覽功能曾建議用戶“在披薩上塗膠水”或是“吃石頭”，甚至在關於前總統奧巴馬的問題上，AI概覽給出了“巴拉克·侯賽因·奧巴馬被認為是美國第一位穆斯林總統」這個存在明顯事實錯誤的答案。

AI概覽給的與事實不符的答案

這樣的情況並非首次出現，2022年，Meta發布了一款名為Galactica的人工智慧系統，該系統在發布後不久就不得不被撤下，因為該系統在回答中讓人去吃玻璃。

Google公司曾以先進的科技產品得到業界的一致好評，然而最近Google的表現卻令人感到失望，一位不願透露姓名的人工智慧創始人表示:「一家曾經以走在最前沿、生產高質量產品而聞名的公司，現在卻以低品質的產品而聞名，而且還被發佈在網上嘲笑。

事實上，Google目前的處境很艱難。在Google之前，Bing 就大舉進軍人工智慧領域，OpenAI 也在開發自己的搜尋引擎，而只想要獲得最佳體驗的年輕一代用戶正在轉向TikTok 。這些都給了Google很大的競爭的壓力。