AI產品屢陷爭議谷歌搜尋主管:錯誤不可能避免有些風險必須冒
當地時間週四,GoogleAI產品的新動向再度引輿論關注。不過這次並不是因為產品又惹出了什麼麻煩,而是公司高層面對「AI犯錯」樹立了旗幟鮮明的態度。雖然Google是這一輪AI爆發的基礎——Transformer架構的發源地,但過去兩年可以說是一直在追趕OpenAI的狀態。在此期間,也鬧出了不少爭議事件。
例如Gemini“文生圖”功能在人像方面展現出了與現實完全脫軌的“多元化傾向”,該功能年初下線至今還沒有恢復。
而在上個月開發者大會期間剛剛官宣的「AI搜尋綜述」功能,也毫不意外地「翻車」了——谷歌的AI採信了互聯網上的嘲諷和虛假信息,建議用戶「往披薩上塗膠水”、“每天吃點石頭”,甚至連美國前總統歐巴馬的關鍵訊息都能搞錯。
不過相較於先前第一時間「雪藏」產品,Google對於自家產品的自信程度正在肉眼可見地提升——大大方方地承認「AI產品就是這樣的」。
得頂住風險把產品發出來
根據週四的最新消息,Google高級副總裁、年初剛晉升為搜尋業務主管的麗茲·里德,上週在公司全體會議期間坦率承認,隨著AI與互聯網搜索進一步融合,一定會出現更多的錯誤,但公司應該繼續推出產品,讓員工和用戶一起幫忙發現問題。
里德表示:「從一系列錯誤中我們不應該得出「不能冒險」的結論,我們應該慎重地冒險並迅速採取行動…我們不可能總是能發現一切(問題),但這僅僅意味著我們需要(對錯誤)做出回應。
對於「AI綜述」功能惹出來的麻煩,Google的發言人也表示,在絕大多數情況下AI搜尋的結果是準確的,出現違反公司政策情況的機率大概連700萬分之一都不到。
樹大招風
這一系列姿態,也顯示出谷歌現在更願意麵對錯誤。里德本人在5月底發表了一篇博文,對「AI綜述」引發的風波進行了詳細回應。
里德表示,現在每天都會有數十億個查詢的請求,難免會出現一些奇怪的事情和錯誤。她也直言不諱地攻擊稱,一些用戶使用谷歌AI時具有“蓄意對抗性”,而許多網路上出現的最糟糕錯誤根本就是假的。
她表示,現在社群媒體上已經出現了偽造AI綜述吸引流量的模板,這也是Google正在考慮的另一件事。
當然,隨著AI與搜尋不斷融合,Google也迎來了能力的提升與挑戰。里德指出,透過推出人工智慧產品,團隊能夠發現諸如「數據空白」這類的問題,也就是網路上沒有足夠的數據來回答特定問題。同時他們現在也能區分文章中的信息與諷刺,並糾正拼字錯誤。與過往不同,谷歌不僅需要了解網站或具體頁面的質量,還需要理解網頁裡的每一段內容。