谷歌Bard負面問題越來越多內部員工質疑:海量投入值嗎?
過去幾個月,Google母公司Alphabet邀請重度使用者,持續對旗下AI聊天機器人Bard的研發進行內部討論;一些Google產品經理、設計師和工程師對AI有效性和功能提出質疑,甚至質疑公司投入海量資源研發AI是否值得。
谷歌Bard一名資深產品經理今年7月曾在論壇Discord上表示,對於那些基於大語言模型(LLM)AI聊天機器人來說,「我的原則就是,除非我能獨立證實資訊的準確性,我不會相信大語言模型生成的結果。當模型達到這一水平時我當然樂意使用,但現在還沒有達到。”
而Bard計畫一名使用者體驗小組主管8月則表示,「我仍在考慮,大語言模型面臨的最大挑戰是,它們究竟能用來幹什麼,或者能提供哪些幫助?它何時能對人類作出重大影響?顯然時候未到。”
為因應微軟旗下OpenAI推出的ChatGPT,Google今年3月推出Bard,自此就持續為Bard加入新功能,包括AI分析圖片、多元語言服務等。上月,Google邁出一大步,將Bard連接到其Gmail、地圖、文件和YouTube等核心產品。
不過,Google也開始越來越多地面對AI帶來的困擾,包括編造事實,以及提供使用者潛在的危險建議。就在Google上月19日宣布將Bard接上核心產品的當天,Google也同時在Bard推出一鍵搜尋功能,幫助用戶檢視AI產生的回應是否為真。
對Google來說,確保Bard的成功已經成為該公司的頭號任務。儘管Google在搜尋領域遙遙領先,其母公司80%的營收都來自此,但隨著生成式AI模型爆火,谷歌在搜尋領域的霸主地位受到挑戰,尤其是OpenAI以及一眾新創AI公司,可能終結谷歌的霸主地位。
內部論壇消息顯示,即便是Bard專案的研發主管,也對這款產品的潛力感到困惑與矛盾。一名產品經理建議,Google應限制使用者在「創意、腦力激盪的程式」中使用Bard,不過使用AI程式設計是個好的選擇,畢竟碼農最終還是需要驗證程式碼是否管用。
谷歌則在聲明中表示,內部論壇上有關Bard限制和潛力的討論屬於日常操作,並不令人驚訝,因為這是產品研發的一部分。“推出Bard本來就是一項實驗,我們渴望聽到用戶的使用反饋,讓我們可以改善用戶體驗。”
而且,Discord論壇的討論不光涉及AI的功能與有效性,同時也涉及國際政治、勞工倫理。谷歌和亞馬遜曾參與合約,為以色列軍方提供AI工具,一名論壇用戶7月中旬質疑谷歌利用AI作為致命武器,這名用戶隨即被論壇禁言,管理員表示論壇禁止討論政治、宗教或其他敏感話題。同月,另一名用戶質疑Google使用低薪、過勞的合約工來為Bard做優化,Google則表示,人工優化是Bard研發的重要部分,否則AI可能產生重大失誤。
還有論壇用戶對研發Bard投入大量的資源提出質疑。一名用戶寫道,「是否存在任何減少大語言模型方面海量資源投入的努力?尤其是巨量的水,以及大規模使用GPU的需求。」對此,Bard用戶體驗主管表示,研發Bard就像是晶片設計或超級計算機,“相信我們將會找到辦法,減少資源投入,達到相同的效果。”
其實,不光是Bard內部質疑AI存在的價值,其競爭對手ChatGPT目前也遭遇類似問題。華爾街見聞先前報道,最新數據顯示,其增速停滯的苗頭已經開始顯現,越來越多的用戶並未為ChatGPT帶來相應的規模經濟,反而不斷增加成本,而矽谷巨頭們只能嘗試向用戶收取更高的增值費用,引起用戶不滿。
紅杉資本表示,目前生成式AI面臨的最大問題,並非找到用例或需求,而是無法向使用者證明其價值。一些觀點認為,隨著投資人和用戶的熱情退去,明年,生成式AI領域可能出現一群淘汰者。