谷歌改口:“類ChatGPT應用”不保證準確性首要方向不應是搜索
作為應對ChatGPT挑戰的利器,Google開發的人工智能搜索引擎Bard AI在上個月一亮相就“翻車”。在3月2日週四的一場全體內部會議上,Google高管們在一群情緒激動的員工中間試圖安撫人心,說Bard AI不僅僅是搜索而已。
Bard AI的產品負責人Jack Krawczyk在回答員工的書面問題是說:
我想表達的非常清楚:Bard AI不只是搜索。
顯然,Google的高管試圖收拾殘局,但是他們的說法和做法在員工中造成了進一步的混亂。
在周四的全體會議上,高管們回答了公司內部論壇上員工提出的問題,其中大多數最受關注的問題都與公司把發展Bard AI視作公司的優先事項有關。這是自Google自從發布Bard AI失敗以來的第一次全公司會議。不少員工直接批評公司首席執行官Sundar Pichai處理應對ChatGPT的方式。
由於Bard AI的發布失敗,市場對Google的信心陡然下降,該公司股價在過去一個月中累計下跌了近9%。市場擔憂的是,Google的核心業務——搜索引擎可能會很快被AI搜索引擎取代,而Google推出的Bard AI不僅倉促、拙劣,而且沒有Google一如既往的風格。
有Google員工提問:
Bard和ChatGPT是大型語言模型,而不是知識模型。他們擅長生成聽起來像人的文本,但不擅長確保他們的文本是基於事實的。為什麼我們認為第一個重要的應用應該是搜索,它的核心是尋找真實信息?
Krawczyk 立即回應說:
我想表達的非常清楚:Bard AI不只是搜索。
這是一個實驗,是我們談到的協作AI服務。我們在使用該產品時,Bard可以幫助用戶激發創意。成為想像力的火花塞,探索用戶的好奇心等等。當然,我們也不能阻止用戶像使用搜索引擎一樣使用它。
他說Google仍在迎合那些想用它進行搜索的人,該公司已經建立了一個供內部使用的新功能,稱為“Search It”。
Krawczyk 說:
我們將努力更好地生成相關的查詢,並向用戶傳達我們的信心。用戶會看到一個標籤,上面寫著“查看其他結果”,這會讓用戶避免那些高度雷同的搜索結果。
現在令Google員工們感到非常困惑的是,Bard到底是不是搜索引擎的一部分,尤其是高管們前後不一的回答,造成了員工更多的混亂。
Google內部論壇上有人說:
Google啟動AI似乎是一種沒有戰略的下意識反應。
Pichai的回應則是,Google在人工智能研發上的投入比任何其他公司都多:
我不同意這個問題的前提假設,我們長期以來一直在深入研究人工智能。從某種意義上說,我們必須始終專注於用戶,並確保我們正在構建有影響力的東西。” 他說,用戶輸入將成為流程的重要組成部分,因此正確處理很重要。
Pichai在全體會議上請Google的AI負責人Jeff Dean回答有關公司頂尖人才流失的問題。Dean說:
我認為重要的是要認識到這是一個競爭異常激烈的領域,市場對具備這些技能的人的需求量很大。不過,Google擁有世界上最好的兩個AI研究團隊,人們並肩工作,推動AI的發展。
有專家指出Bard在該產品的第一個演示視頻中犯了一個“事實錯誤”。
在視頻中,Bard回答了一個關於通過詹姆斯韋伯太空望遠鏡獲得的新發現的問題,稱它“拍攝了我們太陽系外行星的第一張照片”。然而天文學家們指出,第一張系外行星照片是由歐洲南方天文台的甚大望遠鏡(VLT)在2004年拍攝的。
天文學家們認為,這一問題可能源於人工智能誤解了“模棱兩可的NASA新聞稿,低估了過去的歷史”。
這個故障凸顯了Bard等所謂的生成人工智能係統的一個常見缺陷:這些系統不能“理解”它們反芻的信息,只能根據概率進行猜測。而微軟也承認了它的聊天機器人也面臨類似的挑戰。
儘管語言模型可以生成連貫且語法正確的文本,但它們也會表達虛假信息。
離奇的是,上述錯誤通過了Google的各個工程、法律、公關和營銷部門,並在出現在了Bard最重要的演示中。