OpenAI:顛覆一切,也被一切顛覆
未來50年的世界將是什麼樣子?《失控》作者、《連線》雜誌創刊主編凱文·凱利相信,從未來5000天到未來50年,AI將成為世界最重要的關鍵詞,成為如同互聯網一樣無處不在的基礎設施。而OpenAI,是他心目中最成功的AI公司,“一個絕佳的顛覆者案例”。
從去年底ChatGPT倉促上線、意外爆紅以來,這家公司和他的創始團隊,被這場席捲全球的技術狂熱推上了舞台中央。
OpenAI從何而來,又將去往何處?近期,知名科技記者Steven Levy在《連線》雜誌發表了一篇長文,對OpenAI公司的成長史和公司願景展開了深度討論。
Altman的選擇
在領導OpenAI之前,Sam Altman已經當上了世界上最著名的科技孵化器Y Combinator的CEO,從所有這些獨角獸企業中套現的意義不在於裝滿合夥人的錢包,而在於為物種層面的變革提供資金。
他成立了一個研究部門,希望為雄心勃勃的項目提供資金,以解決世界上最大的問題。但在他看來,AI才是顛覆一切的創新領域:一個能比人類更好地解決人類問題的超級智能。
他甚至還有過競選加州州長的想法。但他意識到,他完全有能力做更大的事情——領導一家將改變人類本身的公司。
在加州的一場晚宴上,他與馬斯克一拍即合。
馬斯克當時正與穀歌聯合創始人Larry Page吵得不可開交。因為馬斯克相信,人類意識有珍貴的獨特性,但Page認為機器和人是平等的,如果機器真的有了意識、消滅了人類,那就是自然進化的法則,Page還指責馬斯克是一個“物種主義者”。
於是,馬斯克決心花一些錢,為“人類團隊”做出更多努力。
既關心技術變革,也關心AI安全性的Altman,自然成了他心目中理想的合作夥伴。
一個嶄新的AI研究機構,靠什麼吸引頂尖人才?Altman的答案是:AGI的瘋狂願景。
AGI就是所謂的通用人工智能,即能夠像人類一樣完成複雜任務的AI。在Altman仍在擔任YC CEO的那些日子,計算機已經能通過深度學習和神經網絡完成令人驚嘆的壯舉,比如給照片貼標籤、翻譯文本和優化複雜的廣告網絡。
這些進步讓他相信,AGI第一次真正觸手可及。然而,把它交到大公司手中卻讓他感到擔憂。他認為這些公司會過於專注於自己的產品,而無法抓住機會盡快開發出AGI。而且,如果他們真的創造出了AGI,他們可能會不計後果地在沒有採取必要預防措施的情況下將其公之於眾。所以需要有其他人來製衡他們。
Altman篩選招聘對象最重要的原則就是,必須是AGI的信徒。憑藉他本人和馬斯克的號召力,以及探索AGI這套誘人的話術,Altman挖來了Stripe CTO Greg Brockman和谷歌大腦核心科學家Ilya Sutskever等人。
2015年12月,OpenAI正式成立。
2021 年,他對記者表示:
“AGI只能打造一次。而且,能夠很好地運營OpenAI的人並不多。我很幸運,我生命中的一系列經歷讓我真正積極地為此做好了準備。”
迷茫期
儘管有一個瘋狂而偉大的願景,但OpenAI對如何實現目標毫無頭緒。
Altman回憶道,當最初這個小團隊還沒有辦公室、聚集在Brockman公寓時,他腦子一直在想:
“我們該怎麼辦?”
直到公司成立一年多以後,事情也沒有太大進展。當時公司並沒有一個明確的方向,只是隨便胡亂嘗試一通,鑽研解決視頻遊戲的系統,在機器人技術上花費了大量精力,然後發幾篇論文。
Altman想起當時公司的景象時說:
“我們知道我們想做什麼。我們知道為什麼要這麼做。但我們不知道怎麼做。”
但他們相信。使用深度學習技術的人工神經網絡不斷改進,為他們的樂觀情緒提供了支持。Sutskever說,追逐人工智能“並非完全瘋狂。它只是適度瘋狂而已”。
直到2016年,OpenAI等來了傳奇AI研究員Alec Radford。在接受OpenAI的邀請後,他告訴他的高中雜誌,擔任這個新職位“有點類似於加入一個研究生項目”——一個研究AI的開放式、低壓力的棲息地。
Radford是一位內斂、低調的研究者,他並未接受作者面對面採訪邀約,只是寫了一封長郵件描述了他在OpenAI的工作。
他最大的興趣是讓神經網絡與人類進行清晰的對話。這與製作聊天機器人的傳統腳本模式不同,從原始的ELIZA到流行的Siri和Alexa,都採用了這種方法,但都很糟糕。他寫道:“我們的目標是看看是否有任何任務、任何環境、任何領域、任何事情,語言模型都能派上用場。”
他解釋說,當時,語言模型被視為新奇的玩具,只能偶爾生成一個有意義的句子,而且只有在你真的瞇起眼睛的情況下才能生成。他的第一個實驗是掃描20 億條Reddit 評論來訓練語言模型。
和OpenAI 的許多早期實驗一樣,這個實驗失敗了。沒關係。這位23 歲的年輕人獲得了繼續前進、再次失敗的許可。Brockman說:“我們當時就想,Alec 很棒,就讓他做自己的事情吧。”
轉折點
2017 年初,一篇由8 位谷歌研究人員合著的研究論文的預印本出現了,但並未引起人們的注意。這篇論文的正式標題是“Attention Is All You Need”,但它後來被稱為“Transformer論文”,這樣命名既是為了反映這個想法改變遊戲規則的性質,也是為了紀念從卡車變形為巨型機器人的玩具。
Transformer使神經網絡能夠更高效地理解和生成語言。他們通過並行分析語料,找出哪些元素值得關注。這極大地優化了生成連貫文本以響應提示的過程。
最終,人們意識到,同樣的技術也可以生成圖像甚至視頻。雖然該論文後來被稱為當前AI狂潮的催化劑,但在當時,Ilya Sutskever只是少數幾個了解這一突破有多麼強大的人之一。
Brockman回憶道,Ilya看到Transformer出現時,驚喜地喊到’這就是我們一直在等待的。’
這就是OpenAI的策略——努力解決問題,然後堅信團隊或這個領域中的某個人會設法找出缺失的部分。
此後,Alec Radford開始試驗Transformer結構。他表示,當時在兩週內取得的進展超過了過去兩年的進展。他逐漸明白,要想最大限度地利用新模型,關鍵在於擴大規模——在超大規模的數據集上進行訓練。這個想法被他的同事Rewon Child稱為“Big Transformer”。
這種方法需要改變OpenAI之前那種零散、各自為陣的企業文化,必須聚集團隊資源,專註一個點的突破。Quora 首席執行官Adam D’Angelo 是OpenAI 的董事會成員,他對作者解釋道:
“為了利用Transformer 的優勢,你需要擴大它的規模。你需要把它辦得更像一個工程組織。你不能讓每個研究人員都做自己的事,訓練自己的模型,做出可以發表論文的優雅的東西。你必須做這些更乏味、不那麼優雅的工作。”
Radford 和他的合作者給他們創建的模型起的名字是“generatively pretrained transformer”——GPT的縮寫。最終,這個模型被通稱為“生成式AI”。為了建立這個模型,他們收集了7000本未出版的書籍,其中很多都是浪漫、奇幻和冒險類型的書籍,並在Quora問答以及初中和高中考試的數千段文章中對其進行了完善。該模型包含1.17 億個參數或變量,在理解語言和生成答案方面的表現優於之前的所有模型。
但最引人注目的結果是,在處理如此大量的數據後,模型能夠提供超出其訓練的結果,在全新的領域提供專業知識。這些計劃外的機器人能力被稱為“零樣本”。它們仍然令研究人員感到困惑——這也是該領域許多人對這些所謂的大型語言模型感到不安的原因。
商業化
OpenAI前期的資金支持基本都來源於馬斯克。但在2018年,特斯拉開始研究將AI技術用於自動駕駛,而剛好OpenAI已經有了顯著的技術突破。
馬斯克一直把OpenAI這家公司視為自己的所有物,於是他在當時提議,不如把整個公司都交給他來打理——直接把OpenAI併入特斯拉。但這個提議遭到Altman和其他高管的斷然拒絕,於是雙方切斷了聯繫,馬斯克撤走了他全部的投資,在一次全體會議上宣布自己將要離開。
會上,他預言OpenAI將以失敗告終,他還稱至少有一名研究人員是“蠢貨”。
由於公司沒有收入,馬斯克撤資無疑是一場生存危機。雖然OpenAI正在做的研究是矽谷最時髦的AI,但它是一家非盈利機構,這無疑限制了它融資的吸引力。
2019年3月,OpenAI的高管們想出了一個怪異的辦法。在保持非盈利的同時,再創建一個盈利實體。但這個盈利部門的營收有一個上限——這個數字並沒有公開,從公司章程推測,可能高達數万億美元(OpenAI也相信,如果他們的營收真的能達到這個數字,到時候肯定已經做出來可以實際使用的AGI了)。在達到這個上限之後,盈利實體所得的一切都要歸還給非盈利的實驗室。
於是,憑藉新的公司架構,OpenAI成功引入了紅杉等多家風險投資機構。但尷尬的是,對OpenAI來說,數十億美元的風險投資只是微不足道的小數目,AI研發是一個誇張的無底洞。創造大型語言模型的Big Transformer方法需要大型硬件,GPT系列的每一次迭代都需要呈指數級增長的算力,只有少數幾家公司有負擔的能力。
於是,OpenAI很快鎖定了微軟。Altman對記者表示,這是因為微軟CEO Satya Na DELL a和CTO Kevin Scott足夠有魄力:在花費了20多年時間和數十億美元建立了一個所謂的尖端AI研究部門之後,承認自己的工作一團糟,然後押註一家成立僅幾年的小公司。
微軟最初出資10億美元,以其服務器上的計算時間作為回報。但隨著雙方信心的增強,交易規模不斷擴大。現在,微軟已經向OpenAI投入了130億美元。
微軟也為自己爭取到了一大筆好處,它不僅擁有OpenAI盈利部門的“非控股股權”——據稱是49%,還獲得了OpenAI技術獨家商業化授權。而且,並且成功讓旗下云計算平台Azure成為OpenAI的獨家云服務商。換句話說,微軟的巨額投資不但爭取到了一個強大的合作夥伴,還可以為Azure雲服務鎖定全球最受歡迎的新客戶之一。
此外,根據交易條款,OpenAI最初的一些理想——為所有人提供平等訪問權——似乎被丟進了垃圾桶。
在交易的過程裡,OpenAI逐漸有了營利性機構的性質,這讓一些員工感到反感,幾位高管隨之離職,他們認為,OpenAI 已經變得過於商業化,偏離了最初的使命。
OpenAI的未來
當瘋狂的AGI願景離現實越來越近,Sam Altman和他的團隊面臨的壓力也越來越大,他們既要在每個產品週期內實現革命,又要滿足投資者的商業需求,同時還要在激烈的競爭中保持領先。更加關鍵的是,他們還肩負著防止讓AI消滅人類的“準救世主”的使命。
在時代的沖刷下,OpenAI變了很多,唯有建立安全的AGI這一願景沒有改變,仍然在驅動著他們向前。OpenAI的領導者們深信,他們將製造出足夠智能、足夠安全的AI系統,將人類帶入一個難以想像的富饒時代。