奧特曼要用AI造福全人類OpenAI能頂住錢的誘惑嗎?
美國《商業內幕》雜誌週日發文稱,OpenAI原本是一家致力於安全開發人工智慧的非營利組織,但是隨著公司的AI技術越來越強,來自投資者的資金越來越多,它開始偏離最初使命,將投資者的利益置於人類利益之上。
OpenAI CEO奧特曼
2015年,山姆·奧特曼(Sam Altman)懷著崇高的使命創辦了OpenAI,那就是:開發能夠「造福全人類」的通用人工智慧(AGI)。
為了完成這個使命,他把OpenAI設定成了一個非營利組織。然而,隨著該公司越來越接近開發AGI(像人一樣推理),興奮的投資者投入大量資金,一些人擔心奧特曼正在忽視其使命中「造福全人類」的部分。
這種轉變一直在逐步進行,似乎不可避免。
2019年,OpenAI宣布增設營利部門,以資助公司運營,協助其完成非營利使命,但它仍忠於最初的理念,限制投資者可以獲得的利潤。
「我們希望在履行使命的同時提高籌集資金的能力,我們所知道的現有法律結構都沒有達到適當的平衡,」OpenAI當時表示,「我們的解決方案是將OpenAI LP打造成營利性和非營利性的混合體,我們稱之為’利潤封頂’的公司。
OpenAI
表面上看,這是一個巧妙之舉,似乎是為了同時滿足那些關心安全開發AI技術的員工和利益相關者,以及那些希望看到公司更積極開發和發布產品的人。
但是,隨著大量資金湧入OpenAI營利部門,以及公司和奧特曼的名聲越來越差,有些人開始感到不安。
內部分歧
去年,OpenAI首席科學家伊利亞·蘇斯克沃(Ilya Sutskever)等董事會成員曾短暫罷免過CEO奧特曼,原因是擔心公司過於激進地發布產品,而沒有優先考慮安全性。在重要投資者微軟的支持下,奧特曼迅速恢復了CEO職位。
其實,在OpenAI內部,公司的文化裂痕已經顯現出來了。
今年5月,OpenAI的兩位頂尖研究人員簡‧萊克(Jan Leike)和蘇斯克沃宣布辭職。這兩人負責公司的「超級對齊」團隊,該團隊的任務是確保公司安全地開發AGI,這是OpenAI使命的核心原則。超級對齊是一個AI術語,目的是讓AI符合人類價值。
當月晚些時候,OpenAI解散了整個超級對齊團隊。萊克離職後在X上表示,該團隊一直是「逆風航行」。
「OpenAI必須成為一家安全至上的AGI公司,」他表示,「建構生成式AI是一項存在固有危險的事業,但OpenAI現在更專注於打造光鮮的產品」。
OpenAI前首席科學家蘇斯克沃
現在看來,OpenAI幾乎已經完成了轉型,儼然成了一家「快速行動和打破陳規」的科技巨頭。
根據《財富》報道,奧特曼在上週的一次會議上告訴員工,該公司計劃在明年擺脫非營利母公司董事會的控制,因為該董事會已經「不再適合公司的發展」。
因估值改變結構
路透社上週六報道稱,OpenAI即將獲得另外一筆65億美元的投資,將以可換股債券的形式進行,公司估值將達到1,500億美元。但知情人士稱,這項估值將取決於兩個條件:OpenAI要推翻現有的企業結構,並放棄對投資人的利潤封頂限制。
從這輪融資的細節可以看出,OpenAI這家原本以研究為基礎的非營利組織已經在轉型道路上走了多遠。為了吸引更多投資來資助其昂貴的AGI研發,OpenAI願意做出結構上的改變。
知情人士稱,OpenAI已與律師討論將其非營利結構轉變為營利性公益公司,這類似於其競爭對手使用的結構,例如Anthropic、xAI。如果重組失敗,OpenAI將需要與投資者重新磋商其估值,以確定其股份轉換的價格,價格可能會較低。
目前尚不清楚這種根本性的公司結構變化是否會發生。利潤封頂限制了投資者在OpenAI營利部門身上的潛在回報,取消這項限制將為早期投資者帶來更大收益。
不過,這也可能引發人們對OpenAI治理和背離其非營利使命的質疑。 OpenAI先前表示,設立利潤上限是為了「激勵他們以一種平衡商業化、安全性和永續性的方式研究、開發和部署AGI,而不是專注於純粹的利潤最大化」。
OpenAI在一份聲明中表示,該公司仍然專注於“建立造福全人類的AI”,同時繼續與其非營利母公司的董事會合作。 「非營利是我們使命的核心,並將繼續存在。」OpenAI發言人說。