奧爾特曼公開回應AI語音爭議但迴避關於OpenAI治理的問題
OpenAI近期陷入多起與公司治理和產品合規相關的輿論風波。美國演員史嘉蕾喬韓森(Scarlett Johansson)近日質疑OpenAI聊天機器人使用酷似她聲音的Sky語音。此外,OpenAI解散「超級智慧對齊」團隊後於當地時間5月28日成立了新的安全委員會,引發外界對公司安全治理轉向的擔憂。
OpenAI CEO薩姆·奧爾特曼(Sam Altman)在日內瓦當地時間週四的國際電信聯盟(ITU)AI for Good全球峰會上,回應了相關敏感話題。
「那不是約翰遜的聲音,不應該是這樣的。對於聲音的相似程度,人們會有不同的看法,但我們不認為那是她的聲音。」奧爾特曼在與大西洋月刊CEO尼古拉斯·湯普森的現場對話中表示。
根據史嘉蕾喬韓森先前的說法,奧特曼在去年9月找到她,希望她為ChatGPT配音,她拒絕了,但近期她發現OpenAI Sky系統聲音跟她很像。受質疑後,OpenAI同意刪除相關語音。
奧爾特曼對於公司治理的相關議題則有所迴避。本月,OpenAI與安全相關的「超級智慧對齊」團隊兩名負責人相繼出走,其中一名負責人詹·萊克(Jan Leike)在社群媒體上表示,他與OpenAI高層在核心優先事項上存在分歧,到了不可彌合的臨界點,在過去的幾年間,公司安全文化和流程已被「閃亮的產品」取代。
尼古拉斯湯普森現場詢問了關於OpenAI治理情況和成立新安全委員會的想法,奧爾特曼回應稱「我們繼續討論如何實施治理,我現在可能不應該說太多」。但奧爾特曼也表示,成立新的安全委員會是為了幫助OpenAI為下一個模型做好準備。
近日還有OpenAI前董事會成員質疑奧特曼不夠誠實。在一檔播客節目中,去年投票支持解僱奧爾特曼的OpenAI前董事會成員海倫·托納(Helen Toner)表示,奧爾特曼多年來一直在隱瞞信息,ChatGPT於2022年11月推出時董事會未事先通知,而是在社群媒體上知曉此事。她還表示,奧爾特曼多次提供了關於公司少數安全流程的不准確信息,董事會基本上不可能知道這些安全流程效果如何。
關於上述說法,奧爾特曼現場表示,他不同意海倫·托納對事件的回憶,並表示海倫·托納關心AGI(通用人工智能)的結果,他很欣賞她,祝她一切順利,而自己不想在此逐句反駁。
OpenAI近日宣佈公司開始訓練下一個前沿模型,並預計該模型有望將人工智慧技術能力提升到一個新層級。奧特曼現場也分享了關於AI運作機制的想法,他認為AI系統運作與人類大腦有相似性。 「我們沒有解決可解釋性(解釋AI系統如何做出決策)的問題。」奧爾特曼表示,但即使沒有完全的認知,這些AI系統通常也被認為是安全和強健的,「我們不知道你的大腦在一個個神經元之間發生了什麼,但我們知道你可以遵守一些規則,而且可以解釋為什麼會想一些事情。