根據CNN等媒體，Google承諾其新的人工智慧搜尋工具將為您完成工作，讓您在網路上更快、更輕鬆地找到資訊。但推出幾天后，該公司已經撤回了一些事實錯誤的結果。 Google本月稍早推出了一款人工智慧產生的搜尋結果概覽工具，該工具可以匯總搜尋結果，讓用戶不必點擊多個連結就能快速獲得問題的答案。但該功能本週遭到批評，因為它為一些用戶的問題提供了虛假或誤導性的信息。

AI 概覽在Google 搜尋的最上方顯示搜尋問題答案的簡要摘要。例如，如果使用者搜尋清潔皮靴的最佳方法，結果頁面可能會在頂部顯示AI 概覽，其中包含多步驟清潔過程，這些資訊是從網路上綜合收集的資訊中收集的。

但社群媒體用戶分享了大量截圖，顯示人工智慧工具給出了不正確且有爭議的答案。 Google、微軟、OpenAI 和其他公司正處於生成式人工智慧軍備競賽的主導地位， 似乎每個行業的公司都在爭相添加人工智慧聊天機器人和代理，以避免被競爭對手甩在後面。預計該市場的收入將在十年內超過1 兆美元。

根據用戶分享的截圖，以下是AI Overview 產生的一些錯誤範例：

當被問及美國有過多少位穆斯林總統時，AI Overview回答：美國有一位穆斯林總統，即巴拉克·侯賽因·歐巴馬。

當用戶搜尋起司不會黏在披薩上時，該功能建議添加「約1/8 杯無毒膠水到醬汁中」。社群媒體用戶找到了一則11 年前的Reddit 評論，似乎是該評論的來源。

歸因對於AI Overview 來說也可能是一個問題，尤其是在將不準確的資訊歸因於醫療專業人員或科學家時。

例如，當被問及「為了獲得最佳健康，我應該盯著太陽看多長時間」時，該工具回答道，「根據WebMD 的說法，科學家表示，盯著太陽看5-15 分鐘，或者如果你的皮膚較黑則最多盯著30 分鐘，一般來說是安全的，並且對健康最有益。

當被問及“我每天應該吃多少塊石頭”時，該工具回答道：“根據加州大學伯克利分校地質學家的說法，人們每天應該至少吃一塊小石頭”，並列出了其維生素和消化益處。

當被問及Google搜尋是否違反反壟斷法時，AI Overview表示，“是的，美國司法部和11 個州正在起訴Google違反反壟斷法。”

另一位用戶發文表示， Google AI 摘要稱非洲54 個公認國家中沒有一個以字母K開頭——顯然忘記了肯亞。

Google週五向CNN 證實，這兩項查詢的AI 概述因違反公司政策而被刪除。

Google發言人科萊特·加西亞(Colette Garcia) 在一份聲明中表示：絕大多數人工智慧概述都提供了高品質的信息，並提供了深入挖掘網路的連結。

她還補充說，其他一些流行的Google人工智慧失誤的例子似乎是被操縱的圖像。

“我們在推出這一新體驗之前進行了廣泛的測試，與我們在搜索中推出的其他功能一樣，我們非常感謝大家的反饋。我們會根據我們的內容政策迅速採取行動。”

每個Google AI 搜尋概述的底部都承認生成式AI 是實驗性的。該公司表示，它進行了旨在模仿潛在不良行為者的測試，以防止虛假或低品質的結果出現在AI 摘要中。

Google的搜尋概覽是該公司將其Gemini AI 技術融入所有產品的更大努力的一部分，該公司試圖在AI 軍備競賽中與OpenAI 和Meta 等競爭對手保持同步。

但本週的失敗表明，添加AI（傾向於自信地陳述虛假資訊）的風險可能會損害Google作為線上資訊搜尋可信賴來源的聲譽。

即使在較不嚴肅的搜尋中，Google的人工智慧概覽有時也會提供錯誤或令人困惑的資訊。

在一次測試中，CNN 向Google詢問泡菜汁中含有多少鈉。人工智慧概覽回答說，一份8 液量盎司的泡菜汁含有342 毫克鈉，但一份不到一半大小的泡菜汁（3 液量盎司）含有的鈉是原汁的兩倍多（690 毫克） 。 （沃爾瑪出售的Best Maid 泡菜汁僅1 盎司就含有250 毫克鈉。）

CNN 也搜尋了：用於Google人工智慧訓練的資料。在回應中，人工智慧概述承認目前尚不清楚Google是否阻止將受版權保護的材料納入用於訓練其人工智慧模型的線上資料中，這體現了人們對人工智慧公司運作方式的極大擔憂。

這並不是Google第一次因為令人尷尬的失誤而放棄其人工智慧工具的功能。今年2 月，該公司暫停了其人工智慧照片生成器創建人物圖像的功能，此前該生成器因製作與歷史不符的圖像而受到批評，這些圖像主要以有色人種代替白人。

Google的搜尋實驗室網頁允許使用者在已推出AI 搜尋概覽的區域中開啟或關閉該功能。