OpenAI CEO奧爾特曼稱AGI會讓全球GDP翻倍、理解前董事會的焦慮
奧爾特曼表示,他理解前董事會為何如此焦慮,前董事會成員對人工智慧的持續發展感到緊張。 OpenAI CEO薩姆·奧爾特曼(Sam Altman)最近在Aspen Ideas Festival活動的訪談上提及GPT-5開發進展,談及關於此前他被董事會解僱一事,並分享了他對AI安全的看法。
就GPT-5開發進展,奧爾特曼稱,開發GPT-5還需一些時間,希望GPT-5取得重大飛躍,而GPT-4還會出現很多錯誤,犯一些6歲小孩都不會犯的錯誤。就人工智慧的前景, 奧爾特曼表示,人工智慧是巨大的生產力驅動力,AGI(通用人工智慧)可以創造100兆美元的財富,可以讓全球的GDP翻倍,或許只需要10年完成翻倍。
近期另有一些爭議事件圍繞著OpenAI,例如,OpenAI與蘋果合作後,特斯拉CEO馬斯克對蘋果將用戶資料交給外部公司的安全性問題表示質疑,並表示不允許蘋果產品進入公司。就“不允許蘋果產品進入公司”的言論,奧爾特曼表示“我懷疑這件事是否會發生,但我沒有預料到(會如此)”,他認為這不代表其他科技公司的普遍反應,而更像是馬斯克的反應。
奧特曼也對去年底他被董事會解僱一事表達看法。 「這是非常痛苦的經歷,但我確實理解前董事會為何會如此焦慮,前董事會成員對人工智慧的持續發展感到緊張,對我和我們所做的事有一些看法,儘管我非常強烈地反對他們的想法。想法)富有建設性且樂於提供協助。
奧特曼談到人們對人工智慧安全的焦慮。 「(人工智慧)將導致社會發生巨大的變化,我認為它與其他技術趨勢不同。有一種可以理解的焦慮感,來自人們對人工智慧將走向何方的疑慮。即便我們解決了每一個有關濫用的問題、找到了完美的監管機制,當人工智慧工具變得越來越強大,當電腦不僅能理解我們、幫助我們的時候,生活會是樣子?經營一家企業。 OpenAI做了很多工作來保障人工智慧的安全性,後續也將繼續爭取人們對人工智慧系統的信任。
另一些與人工智慧相關的爭議事件引起廣泛關注,例如,此前美國演員史嘉蕾喬韓森指控ChatGPT使用類似她聲音的AI語音,奧爾特曼此前曾回應稱,他不認為那是約翰遜的聲音。奧爾特曼這次表態,整個產業對於人工智慧技術被用來傷害個人的事情,需要採取非常強硬的立場。 「人工智慧技術達到能『換臉』的水平是不可避免的,但這是我們社會監督和政府監管可以發揮作用的地方。對於『換臉』、假訊息等不好的使用,我們需要劃一條界線。
越來越多由人類創造的數據被用於人工智慧訓練,為了讓大模型變得更加智能,是否人工智慧公司將對數據越來越“貪得無厭”,並持續引發關於合理使用的爭議?奧爾特曼對此回應稱,目前還不確定未來如何讓大模型變得越來越聰明,包括是否永遠需要越來越多的數據,需要找到新的模式來獲得數據並訓練模型。
至於如何讓電腦獲得正確的價值觀,奧爾特曼表示,雖然現在還不能說完全解決了人工智慧對齊的問題,但在目前人工智慧系統中,讓系統學會如何以一套價值觀行事的效果比他想像的更好。現在更難的問題是,誰來決定價值觀,社會層面可以討論人工智慧的價值觀應該是什麼。奧爾特曼表示,GPT-4花了約8個月的時間進行紅隊測試和外部諮詢,未來的大模型可能需要花更多時間。