OpenAI CEO承認:AI的好處可能不會廣泛分配AGI不會有最大的創新想法
在他個人部落格上的一篇新文章中,OpenAI 首席執行官山姆·奧特曼表示,公司願意考慮“計算預算”等其他“聽起來奇怪”的想法,以“使地球上的每個人都能使用大量人工智能”,並確保這項技術的好處得到廣泛分配。

「技術進步的歷史影響表明,我們關心的大多數指標(健康結果、經濟繁榮等)在平均水平和長期內都有所改善,但增加平等似乎並不是技術決定的,正確處理這一問題可能需要新的想法,」奧特曼寫道。 “特別是,資本與勞動之間的權力平衡似乎很容易被打亂,這可能需要提前幹預。”
解決這個問題的方案,例如奧特曼的「計算預算」概念,可能比實施更容易提出。已經,人工智慧正在影響勞動市場,導致了裁員和部門縮減。專家警告,如果沒有適當的政府政策以及再培訓和提陞技能的項目,大規模失業可能是人工智慧技術崛起的一個可能結果。
並非第一次,奧特曼聲稱人工通用智能(AGI)——他定義為「[一個AI]系統能夠在人類層面上,在多個領域解決日益複雜的問題」——即將到來。奧特曼警告說,無論其形式如何,這種AGI 都不會是完美的,因為它可能「需要大量的人類監督和指導」。
“[AGI systems] 不會有最大的創新想法,”奧特曼寫道,“它在某些方面會很出色,但在其他方面卻會令人驚訝地糟糕。”
但奧特曼堅稱,AGI 的真正價值將來自於大規模運行這些系統。與OpenAI 競爭對手Anthropic 的執行長達裡奧·阿莫代伊相似,奧特曼設想成千上萬甚至數百萬個超強能力的AI 系統在「每個知識工作領域」中處理任務。
人們可能會認為這將是一個昂貴的願景。確實,奧特曼觀察到「你可以花費任意數量的錢,並獲得持續且可預測的AI 性能提升」。這或許就是為什麼OpenAI據報導正在進行談判,以在一輪融資中籌集高達400 億美元,並且已經承諾與合作夥伴一起花費高達5000 億美元用於一個龐大的數據網絡。
然而,奧特曼也指出,使用「某一水平的人工智慧」的成本每12 個月大約下降10 倍。換句話說,推動人工智慧技術的邊界不會變得更便宜,但用戶將在過程中獲得越來越強大的系統。
來自中國人工智慧新創公司DeepSeek 及其他公司的高效、廉價的AI 模式似乎支持這一觀點。還有證據表明培訓和開發成本也在下降,但奧特曼和阿莫代伊都認為,要實現AGI 級別的人工智慧——甚至更高水平——將需要巨額投資。
至於OpenAI 計劃如何發布AGI 級系統(假設它確實能夠創建這些系統),阿爾特曼表示,公司可能會做出「與AGI 安全相關的一些重大決定和限制,這些決定可能不受歡迎。」OpenAI 曾承諾,在出於安全考慮的情況下,它將停止與任何「價值對齊」、「安全意識」項目對齊,並開始協助那些在構建AGI 方面接近它的項目。
當然,那時OpenAI 打算保持非營利狀態。該公司正在將其公司結構轉變為更傳統的以利潤為驅動的組織。 OpenAI據報導計畫在2029 年前實現1000 億美元的收入,相當於Target 和Nestle 目前的年銷售額。
鑑於這種情況,奧特曼補充說,OpenAI 在構建更強大的人工智能時的目標將是“更傾向於個人賦權”,同時防止“人工智能被專制政府用來通過大規模監控和失去自主權來控制其人口。”奧特曼最近表示,他認為OpenAI 在開源其技術方面站在了歷史的錯誤一方。雖然OpenAI 過去曾開源技術,但該公司通常更傾向於專有的、封閉原始碼的開發方式。
「人工智慧將滲透到經濟和社會的各個領域;我們將期待一切都變得智能化,」奧特曼說。 “我們中的許多人預計需要給予人們比歷史上更多的技術控制權,包括更多的開源,並接受安全與個人賦權之間的平衡,這將需要權衡。”
在腳註中,奧特曼補充道,OpenAI 實際上並不打算很快結束與密切合作夥伴和投資者微軟的關係。微軟和OpenAI 據報告對AGI 有合約定義——能夠產生1000 億美元利潤的AI 系統——一旦滿足該條件,OpenAI 將能夠談判更有利的投資條款。然而,奧特曼表示,OpenAI “完全期望與微軟長期合作。”