OpenAI CEO奧特曼談人工智慧發展與社會
根據外電報道,OpenAI 聯合創始人兼執行長Sam Altman 在史丹佛大學NVIDIA 禮堂面對一群學生,他們向他提出問題,並熱情地表達了生日快樂。超過一千人在黃仁勳工程中心外排隊,以獲得參加Altman 演講活動的機會,該活動由史丹佛工程創業中心(STVP) 主辦,是周三創業思想領袖(ETL) 研討會的一部分。
22 年來,ETL 既是公共內容系列,也是MS&E 472 課程。去年春天,MS&E 472是註冊人數第五多的課程,有超過400 名本科生和研究生。但即使對大眾階層來說,這場擁擠的活動也是獨一無二的。
Altman 於2005 年從史丹佛大學退學,因領導OpenAI 而廣為人知,OpenAI 是一家人工智慧研究公司,開發了ChatGPT 和DALL-E。
OpenAI最初成立於2015 年,是一家非營利研究實驗室,其使命是確保通用人工智慧造福全人類。
Altman 告訴觀眾,多年來,OpenAI 的使命沒有改變,但其結構已經並將繼續進行調整。
OpenAI 目前的結構包括一家營利性子公司,該子公司能夠發行股權籌集資金,但仍受非營利組織使命的約束。
「我認為賺錢是一件好事。我認為資本主義是一件好事,」奧特曼說。 “我的董事會聯合創始人都有經濟利益,我從未見過他們不認真對待使命的重要性。但我們已經建立了一個我們認為可以協調激勵措施的結構。”
由於OpenAI 研究所需的運算能力和人才成本高昂,因此成立這家營利子公司是因為除了捐款之外還需要資金。 「無論我們每年燃燒5 億,還是50 億或500 億,我真的不在乎——只要我們保持在最終為社會創造更多價值的軌道上,只要我們能夠想辦法支付賬單。」奧特曼說。
OpenAI的研究核心在於通用人工智慧(AGI)的開發,OpenAI在公司網站上將其定義為一個高度自治的系統,在最具經濟價值的工作上超越人類。
ChatGPT 是OpenAI 邁向AGI 的一個例子。
「ChatGPT 充其量只是有點尷尬,」Altman 說。 “GPT-4 是你們中任何人都必須再次使用的最愚蠢的模型。但是,儘早且頻繁地交付非常重要,我們相信迭代部署。”
Altman 相信社會要為技術進步做好準備,這依賴負責任的迭代部署,即使模型不完美。 「如果我們在地下室建造通用人工智慧,然後世界就蒙著眼睛幸福地行走,我不認為這使我們成為很好的鄰居,」奧特曼說。 “讓社會與技術共同發展。讓社會告訴我們它作為集體以及人們個人想要從技術中得到什麼。”
儘管AGI的前景可能令人恐懼,但奧特曼相信它將成為社會達到更高高度的鷹架。 「實際上我根本不擔心人類創新受到抑制,」奧特曼說。 「人們會用更好的工具給我們帶來驚喜。我認為所有的歷史都表明,當你給予人們更多的影響力時,他們會做出更令人驚奇的事情。”
2023 年11 月,OpenAI 董事會在審查確定奧特曼「在與董事會的溝通中始終不坦誠」後,解除了奧特曼執行長的職務。隨後,超過700 名OpenAI 員工簽署了一封給董事會的公開信,威脅要離開OpenAI 並加入微軟,除非Altman 重新擔任執行長。
在回答有關OpenAI 員工壓倒性支持的問題時,Altman 表示,這是出於“強烈的使命感和對使命的忠誠”,他認為這是“成功的最強大力量,至少我認為是這樣”。在新創公司中已經看到了。 」
ETL 活動結束後,Altman 加入了他的前教授Mehran Sahami ’92 博士。 99 年,電腦科學系系主任在蓋茲電腦科學大樓進行了僅限回覆的爐邊聊天。演講以奧特曼從史丹佛大學退學的笑話開始,隨後薩馬希提出了一系列關於人工智慧發展、道德和安全以及通用人工智慧前景等主題的問題。
Altman 相信AGI 能夠為社會帶來高品質的教育、疾病治療、娛樂和太空探索。
「我們應該為自己和未來的人們創造一個更美好的世界,」奧特曼說。他相信AGI 可以取代律師和醫生,讓人們更容易獲得法律和醫療服務,從而幫助「世界上最貧窮的一半人,而不是世界上最富有的一半人」。
奧特曼認為,儘管新技術最初可能會令人震驚,但社會很快就會適應。
奧爾特曼說,一年前推出的GPT-4 遭遇了“兩週的恐慌”,人們相信這是“這件瘋狂的事情,世界已經永遠改變了”。 “現在人們會說,’哦,這太可怕了。GPT-5 在哪裡?”