馬斯克大戰OpenAI:「開源」之爭,敲響人工智慧安全警鐘?
「美好的願景是人類和人工智慧形成一種共生關係。」山姆·奧特曼說完之後看向伊隆·馬斯克。後者接過話頭,“我同意山姆所說的,我們已經像賽博格一樣工作。不過需要謹慎對待人工智能的發展,確保它最終對人類有利。”
上述對話發生在9年前,兩人在美國一檔談話節目中相鄰而坐,探討有關未來創新、地外生命、創業精神等廣泛的前沿話題,冷靜地闡述那些雄心勃勃的藍圖。彼時,馬斯克對人工智慧(AI)興趣盎然,但因憂慮安全問題而難覓食志同道合者。在他眼中,身旁的年輕人不僅是科技孵化器Y Combinator的總裁,還是一名生存主義者,對AI有共同的緊張感。也正是在2015年,他們攜手創辦了一個非營利人工智慧研究實驗室“OpenAI”,對抗以Google為代表的科技巨頭。
然而不到三年,馬斯克以「利益衝突」為由退出OpenAI董事會。事到如今,馬斯克與奧特曼徹底決裂,舊日願景卻成矛盾焦點。
今年2月29日,馬斯克突然在舊金山法院對OpenAI及公司首席執行官奧特曼和總裁布羅克曼提起訴訟,他斥責奧特曼違背“初心”,要求OpenAI恢復開源並給予賠償。對此,包括奧特曼在內的OpenAI 五位聯合創始人撰文回應,逐一駁斥各項指控,並曝光了馬斯克與他們的大量往來郵件,試圖證實馬斯克唯利是圖。
這場紛爭不僅是馬斯克與奧特曼之間的極限拉扯,也是AI狂潮下科技巨頭們合縱連橫的一個側面,涉及OpenAI背後的「金主」微軟公司,還有馬斯克旗下的特斯拉和人工智慧新創公司xAI等。圍觀商鬥之外,針對AI未來發展的分歧與辯論或許更值得探究。
非營利與營利
馬斯克向舊金山法院提交的訴狀洋洋灑灑寫了35頁,最大「罪狀」指向OpenAI為逐利而放棄了最初使命——「開發造福人類的人工智慧技術」。馬斯克聲稱,OpenAI與微軟的合作夥伴關係已將這家公司轉變為微軟“事實上的閉源子公司”,專注於利潤最大化。
隨後,OpenAI發文反擊:「很遺憾,我們非常敬佩的一個人走到了這一步——他激勵我們設定更高的目標,然後卻告訴我們會走向失敗,而他自己創立了一個競品。當當我們在沒有他的情況下開始朝著OpenAI的使命取得有意義的進展時,他又起訴了我們。」短短幾句話濃縮了馬斯克與OpenAI這些年的恩怨情仇。
OpenAI在3月5日釋放出馬斯克與其聯合創始人的郵件內容,曝光當初所有創始人同意創建一個營利性實體支撐OpenAI運轉,不過馬斯克希望獲得該實體的大部分股權、初始董事會控制權並擔任首席執行官,而其他創始人不同意。隨後馬斯克建議將OpenAI併入特斯拉,OpenAI團隊也拒絕了這個想法,導致雙方決裂。
著名傳記作家艾薩克森所寫的《伊隆馬斯克傳》,一部分內容印證了上述說法。書中提到了馬斯克希望在其旗下各家公司發展人工智慧能力,試圖說服奧特曼將OpenAI併入特斯拉,理由是當時OpenAI發展3年仍落後於Google。
如今馬斯克和OpenAI互相斥責利欲熏心,商人逐利實則無可厚非,不過馬斯克控訴OpenAI違背了創始協議,即維持這家公司的性質是「非營利」。而奧特曼反指馬斯克未兌現承諾,根據郵件內容,馬斯克稱OpenAI融資規模應該從10億美元起步,並承諾“對於其他人未提供而出現的缺口,我將負責補足。”
OpenAI在3月5日的發文中表示,作為非營利公司時,收到馬斯克的款項不足4500萬美元,從其他捐助者籌集了超過9000萬美元。顯然,這筆數字遠不足以支撐該公司建構通用人工智慧(能夠模仿和執行任何人類智慧活動,甚至在各種認知任務中表現得比人類更好的人工智慧。)的目標。微軟成了救局者。
就在馬斯克2018年退出OpenAI董事會後,在維持非營利的同時,奧特曼又成立了一個籌集股權基金的營利性部門(但這個營利部門的營收有一個上限。在達到這個上限之後,營利實體所得的一切都要歸還給非營利的研究實驗室。)。一年後,微軟向該公司投資了10億美元,在接下來幾年又陸續投資120億美元,為OpenAI建構生成式人工智慧技術的所需買單。作為回報,OpenAI向微軟Azure 雲端運算產品的客戶提供了多項AI服務。微軟從2023年1月開始對OpenAI持股49%,目前為止仍是最大股東之一,OpenAI的非營利母公司則持有2% 的股份。隨著同年聊天機器人ChatGPT問世,微軟股價大漲,可以順理成章地存取GPT大語言模型和相關軟體。
在馬斯克看來,OpenAI走上了背靠微軟營利的道路,與創立時的初心背道而馳。這要追溯到OpenAI成立的2年前,2013年谷歌公司在AI領域率先佈局,馬斯克在他42歲的生日派對上,和相識10多年的谷歌創始人拉里·佩奇激烈辯論人工智能的風險,前者主張建立「防火牆」防止AI取代人類,擔憂人類意識消亡。後者不以為然,認為機器的智力和意識超越人類意味著進化的下一個階段。
馬斯克聲嘶力竭卻沒能製止拉里·佩奇的野心。谷歌在2014年1月宣布收購致力於實現通用人工智慧(AGI)的公司DeepMind,並為之創建安全委員會,馬斯克作為委員之一對谷歌非常不滿,認為委員會徒有其名,根本不關心AI的安全問題。
隨著Google在AI領域不斷發力,馬斯克四處奔走警告AI對人類生存的威脅,甚至在2015年約到了與時任總統歐巴馬的一對一談話。多年後,他回顧那次會談內容說,沒有藉機推廣特斯拉或Space X,而是敦促美國政府推動AI監管,但沒能引起足夠的重視。
屢遭挫敗後,馬斯克決定尋找搭檔一起入局AI領域,他找到了比他小14歲的奧特曼,兩人一拍即合,認為提升AI系統安全性的途徑之一是,擁有大量彼此競爭的系統相互制衡。因此他們決定成立一家非營利AI公司,發展一種不受任何個人和公司控制的AI。
而且,馬斯克為這家公司取名為OpenAI,是希望實現真正的開放,讓其他人根據原始碼建立各自的AI系統,以達到製衡目的。而如今,是否開源也成為爭議的焦點。
OpenAI還是ClosedAI
「將OpenAI改名為ClosedAI,我就取消訴訟。」當地時間3月6日,馬斯克在社群平台X上發文,並附上了一張修圖後的照片,畫面中奧特曼手握的工牌上顯示“ClosedAI”圖示。
馬斯克以此諷刺OpenAI不夠開放,但開放的精準定義是什麼,雙方的看法並不一致。
OpenAI首席科學家伊爾亞·蘇茨克維2016年在電子郵件中寫道:“OpenAI中的開放意味著每個人都應該從人工智能構建後的成果中受益,但也可以不分享科學成果。”馬斯克在回應中回答:「是的。」OpenAI認為這封郵件足以證實,開放的意義是廣義的,而非絕對的「開源」。
2023年3月,OpenAI發布了AI語言模型GPT-4,並分享了GPT-4的大量測試結果以及一些有趣的演示,但基本上沒有提供有關用於訓練系統的數據、用於創建該系統的特定硬體或方法的資訊。人工智慧界的許多人批評了這一做法,指出它破壞了該公司作為研究組織的創始精神。更重要的是,面對GPT-4等人工智慧系統所構成的威脅,開發有針對性的風險防護措施變得更困難。
伊爾亞·蘇茨克維在接受美媒採訪時,闡釋了OpenAI不分享更多有關GPT-4資訊的原因——對競爭和安全的擔心是「不言而喻的」。就安全考慮,他指出,這些模型非常強大,而且會變得越強大。某些時候,有些人如果利用這些模型可以非常容易地製造巨大的傷害。隨著模型能力的提高,不想公開它們也是有道理的」。
當時,馬斯克就開源問題「約談」奧特曼,稱OpenAI是作為開源的非營利性公司創立,目的是與谷歌抗衡,而現在卻成為「封閉原始碼」的公司,「如今落入了無情的壟斷企業之手」。對此,奧特曼表示自己沒有從這家新創公司大舉獲利,他理解馬斯克的批評是真實的擔憂,但是認為他還沒有完全認識到人工智慧安全問題的複雜性。
堅定的開源主義者不只馬斯克,OpenAI開發者關係負責人洛根(Logan Kilpatrick)也是其中之一。他3月1日在社交平台上宣布辭職,並發出一番感慨「一個開源的AI對於開發者、商業以及全人類來說都會是一種純粹的勝利。」一些開發者猜測圍繞「開源」的分歧是其離開的原因。先前的OpenAI「宮鬥」之爭,實質上也是關於AI 發展的「理念之爭」——到底是加速AI 的商業化進程,還是確保AI 的安全性再推向全世界。
不過,此時對馬斯克而言,針對OpenAI的官司即使打不贏,他仍有其他「武器」捍衛其堅持的AI安全。
找出終極問題的答案
透過訴訟和社群平台上的大膽發言,馬斯克對OpenAI、Google、微軟等科技巨頭一一出拳,像一名角鬥士衝入人工智慧的戰局,寄希望於他在去年創立的人工智慧公司xAI大殺四方。
在馬斯克的設想中,xAI不僅要打造出能編寫電腦程式的AI機器人,以及一款能與OpenAI的GPT系列聊天機器人匹敵的競品,更重要的是實現「能夠最大限度追求真理的人工智慧,他關心對宇宙的理解,帶來的結果是它想要保護人類。”
毫無疑問,xAI的起步較晚,在這個日新月異的領域處於劣勢,目前為止擁有的唯一值得關注的產品是聊天機器人Grok。xAI團隊強調,Grok比其他聊天機器人更具幽默感,它旨在模仿《銀河系漫遊指南》一書,用「一點點的智慧」來回答問題,還有著「一點點的叛逆」。這本書曾將馬斯克從青春期的憂鬱狀態中拯救出來,其中將超級電腦的使命定義為「找出關於生命、宇宙和萬物終極問題的答案」。
目前的Grok跟先前OpenAI發布的GPT-3.5形式差不多,但是測試結果顯示,它在數學、代碼和多學科知識評測中比GPT-3.5表現得更好。而Grok擁有的先天優勢在於,能夠從X平台取得即時資訊。
馬斯克坐擁龐大的資料資產——X平台(原推特)的資訊流,可以用來「餵養」人工智慧,接受現實中人類發言和對話訊息的訓練。他曾表示,這是收購推特的附加福利。另外,他還有來自特斯拉的導航和視訊數據,可能將使其團隊開發的聊天機器人不限於文字生成。
根據美媒報道,馬斯克計劃在3月下旬透過一輪私人融資籌集10億至30億美元,他個人可能也會進行投資,屆時xAI估值可能高達200億美元。但今年早些時候,面對媒體的詢問,馬斯克一再否認xAI 正在籌集資金。即使達到200億美元的估值,仍然只是OpenAI目前的一小部分。今年2月,隨著OpenAI與創投公司Thrive capital達成最新股票出售協議,OpenAI的估值已提高到800億美元以上。
活躍在當今輿論場上的馬斯克有時看起來像不可理喻的怪咖,語出驚人、四面樹敵,有時又像天真的孩童對科學充滿好奇和無邊無際的想法。圍繞著人工智慧,他對於安全性的執念難以被評判,但其警示的該領域的未來發展不容忽視。
「要讓人工智慧幫助我們了解宇宙的真正本質,它必須能夠拋棄流行卻錯誤的東西,而選擇不流行但正確的東西。」馬斯克3月5日在x平台上說道。