OpenAI內幕曝光:高階主管怒斥遭打壓7100億AI巨頭內外交困
萬萬沒想到,美國OpenAI公司的「宮斗大戲」竟然迎來了第二季。近期,OpenAI首席科學家伊利亞·蘇茨克沃(Ilya Sutskever)被宣布離職。同日,OpenAI超級對齊團隊負責人之一的簡·雷克(Jan Leike)也宣布離職。
就在大家為離職事件進行討論之時,5月18日凌晨,簡·雷克直接在社交平台X 上連發13條推文,自述心路歷程,並爆料對齊技術團隊遭到OpenAI CEO奧爾特曼(Sam Altman)們的壓制。
簡·雷克表示:「這是我擔任OpenAI 公司超級對齊部門負責人、高級領導以及執行層成員的最後一天。在過去的3 年裡,我們的團隊取得了很多成果,但我在公司核心發展重點的問題上與領導層存在長期分歧,最終無法調和。在過去幾個月面臨巨大挑戰,有時難以獲取足夠的計算資源。
簡·雷克強調,創造超越人類智慧的機器充滿風險,OpenAI 正在承擔這項責任,但安全文化和流程在追求產品開發過程中被邊緣化。 「我們應該極其嚴肅地對待通用人工智慧(AGI)可能帶來的深遠影響,盡最大努力優先做好應對AGI 的準備,確保其惠及全人類。OpenAI必須轉型為一家將安全放在首位的AGI公司。
針對簡·雷克的爆料訊息, 5月18日奧爾特曼也緊急發文回應稱:「我非常感激簡·雷克對OpenAI在AI 超級對齊研究和安全文化方面的貢獻,對他離開公司感到非常遺憾。 他指出了我們還有很多工作需要完成,我們對此表示認同,並致力於推進這些工作。
5月19日凌晨,OpenAI聯合創始人、總裁格雷格·布羅克曼(Greg Brockman)發長文回應稱,感謝簡·雷克對OpenAI 的貢獻,並強調對AGI 風險與機遇的認知,包括呼籲國際治理等,而且闡述為安全部署更強大系統所做的努力,如GPT-4的推出及後續改進,而未來更具挑戰性,需提升安全工作以匹配新模型,但承認無法預知所有未來狀況,強調需緊密回饋、嚴格測試等。
今天早上5點,奧特曼再發推文承認,公司員工有簽保密協議,退出條款包括撤銷員工在公司的既得股權,如果他們貶低公司或承認這些條款的存在,但奧爾特曼認為這“不應該是”,並補充說他對這些條款“真的感到尷尬”。
「大約在過去一個月的時間裡,團隊已開始修復標準離職文書。如果任何簽署過這些舊協議的前僱員對此感到擔心,他們可以聯繫我,我們也會解決這個問題。對此我深感抱歉。
實際上,目前,這家估值1000億美金(胡潤研究院數據,約合人民幣7100億元)的AI 巨獸OpenAI正面臨新的內部和外部的雙重承壓。
奧爾特曼最近表示,未來OpenAI 希望訓練人們經常使用AI,從而不斷產生更大的技術價值。
伊利亞與奧特曼的內部路線之爭
如果把時間重新拉回到最初OpenAI「宮鬥」之爭之時,今天只是這場圍繞伊利亞與奧爾特曼路線分歧的「續集」。
2023年11月17日,身為全球最受矚目的AI 公司,OpenAI董事會突然宣布解僱CEO奧爾特曼和總裁格雷格·布羅克曼(Greg Brockman),並宣佈公司CTO米拉接任。
輿論嘩然,這一事件引發全球關注,多位公司高層和投資人聲援支持奧爾特曼,包括OpenAI的最大支持者微軟等,遊說讓奧爾特曼重新掌舵,明確表示奧爾特曼是OpenAI成功的重要組成部分。
而在這個過程中,伊利亞夥同OpenAI董事會合作試圖解僱掉奧爾特曼。
根據The Information,在OpenAI 當天舉行的全員會上,伊爾亞承認員工所說的這是一場「政變」。他表示“你可以這麼說(是政變),但我覺得這只是董事會在履行自己的職責。”
幾天后,在輿論的包圍下,剩下的董事會成員改變了主意,恢復了奧爾特曼的執行長職位,並選擇集體辭職。
2023年12月8日, OpenAI特別委員會聘請美國著名律師事務所WilmerHale對奧爾特曼「罷免」事件進行審查。
今年3月,經過數月的調查,OpenAI最終宣布,奧爾特曼並未有不當行為,即「不構成強制解僱」。董事會解僱奧爾特曼是基於與他的關係破裂和信任喪失,而非產品安全、開發進度、公司財務狀況或對投資者、客戶和商業夥伴聲譽的擔憂,並沒有發現奧爾特曼應該被被解僱的證據。因此,奧爾特曼將繼續擔任公司CEO、董事。
根據前Salesforce CEO布雷特泰勒(Bret Taylor)的說法,對董事會混亂的後續審查得出結論,前董事會與奧爾特曼之間的信任嚴重破裂,但沒有證據表明首席執行官誤導投資者或以不安全的速度推出產品。在前董事會解散後,布雷特泰勒被任命為OpenAI董事。
“這只是董事會和奧爾特曼先生之間信任的破裂。”泰勒表示,之前的董事會“本著誠信行事,沒有預料到之後的一些不穩定因素。”
儘管奧爾特曼最終重回OpenAI並執掌大權,但其與伊爾亞兩派對OpenAI公司發展觀念的不同,這一路線之爭一直沒有得到圓滿解決。
實際上,隨著ChatGPT 爆火,在奧爾特曼的帶領下,OpenAI 加速了商業化步伐,透過追求利潤來資助非營利目標,也不再開放。目前GPT-5 正在研發中,而且計劃向微軟和更多的投資者籌集資金。奧爾特曼認為,美國人放慢OpenAI 的進展是愚蠢的。有消息稱,去年OpenAI年化收入已經超過20億美元。
《大西洋月刊》副主編Ross Andersen 前不久發表的一篇關於OpenAI 革命的特稿,就能察覺伊爾亞和奧特曼關注點的不同。在這篇罕見的長文中,作者這樣描述這位首席科學家,“有一種神秘主義者的感覺,有時會有點過頭。” 他聲稱GPT-4可能“有輕微意識”,引起諸多爭議。
事實上,奧爾特曼罷免事件結束後,伊利亞在社群平台上「消失」了,直到前幾天官宣離職。而且據稱,他已經有超過6個月沒有出現在OpenAI辦公室了。
「在過去的一個月裡,我吸取了許多教訓。其中一個教訓是,『在士氣提高之前,毆打會一直持續下去』這句話比它應有的含義更經常適用。」當時,伊利亞還留下了這條耐人尋味的推文,但很快就刪除了。
據內部人士透露,事件發生後,伊利亞一直遠端共同領導超級對齊團隊。
然而,在公司內部,員工們對奧特曼的態度表現不一,更多人開始支持「伊利亞路線」。而對於奧特曼最大的指控就是言行不一,例如他聲稱自己想優先考慮安全,但他的行為卻很矛盾。更早之前,OpenAI也從奧爾特曼投資的一家新創公司訂購算力,總額高達5,100萬美元(約合人民幣3.6億元)。
5月15日,在GoogleI/O開發者大會結束數小時內,伊利亞突然宣布辭職。
「近十年後,我決定離開OpenAI。公司的發展軌跡堪稱奇蹟,我相信OpenAI將在奧爾特曼等人的出色領導下,打造既安全又有益的AGI。能夠與大家共事是我的榮幸,我會非常想念大家。
而僅僅間隔兩分鐘後,奧爾特曼發推文回應稱,對此非常難過,如果沒有伊爾亞,OpenAI 就不會有今天。
這一切都像是設計好的一樣。
根據Vox報道,更注重安全的員工已經對奧爾特曼失去了信心,「這是一個信任一點一點崩潰的過程」。
但公開場合沒有內部離職員工表達相關想法。報道稱,一部分原因是,OpenAI一直以來,都有讓員工簽署帶有非貶低協議的離職協議的傳統。如果拒絕簽署,就等於放棄了先前拿到的OpenAI的選擇權,這意味著出來說話的員工可能會損失一筆巨款。
事實上,伊利亞的辭職加劇了OpenAI近期的離職潮。除了伊利亞、簡·雷克之外,目前有至少五個安全團隊成員離職。
在談到伊利亞時,奧特曼也承認,他確定了公司最重要的大方向:遵循規律效應(Scaling Law)做大語言模型。
「我們最初只是玩機器人和遊戲等一些小項目,有人開始研究大模型,但伊利亞堅定地相信它,並且確定了我們的大方向,我們從GPT-1一口氣做到GPT-4。」奧爾特曼稱。
一位OpenAI離職員工Daniel Kokotajlo評論說:「OpenAI正在訓練更強大的AI系統,目標是最終全面超越人類智慧。這可能是人類有史以來發生過的最好的事情,但如果我們不小心行事,也可能是最糟糕的事情。
外部質疑越來越多,業界認為GPT-4o沒有想像中那麼驚艷
不僅是內部的AGI路線爭議,OpenAI在外部也面臨巨大的議論和承壓。
5月14日凌晨, OpenAI推出可免費使用、可即時進行音訊、視覺和文字推理、短至232毫秒響應音訊輸入的全新旗艦AI模型GPT-4o,並將推出PC桌面版ChatGPT。
OpenAI技術長米拉·穆拉蒂(Mira Murati)表示,在API使用方面,相較於去年11月發布的GPT-4-turbo,GPT-4o價格降低一半(50%),速度提升兩倍( 200%)。
奧爾特曼稱,新的GPT-4o是OpenAI有史以來最好的模型,它很智能,速度很快,是原生多模態,並且它可供所有ChatGPT用戶使用,無論是免費版本還是付費GPT -4版。 “這對我們的使命很重要,我們希望將出色的AI 工具交到每個人手中。”
不過,市場認為,GPT-4o沒有想像當中那麼驚艷,OpenAI也未能呈現出GPT-5這個跨時代產品。
獵豹移動董事長兼CEO、獵戶星空董事長傅盛表示,這次更新比較讓人失望,他認為這次OpenAI沒有發布GPT-5.0,連GPT4.5也沒看到,反而是發布了GPT4o,就是把一系列的引擎給結合在一起,例如圖片、文字、聲音,這樣你就不需要來回切換了。
「所有AI 從業者都在熬夜等著大洋彼岸放核彈,但是沒想到核彈沒有放,掏出了一堆的摔砲。」傅盛稱。
瀾碼科技創辦人兼CEO周健向鈦媒體App表示,GPT-4o在多模態能力和即時互動能力方面取得了顯著進步,但與GPT-4相比,其提升並不具有顛覆性,整體進步不夠驚艷。而且,GPT-4o在長時記憶、社會智能和邏輯推理方面的能力並沒有顯著提升。
「在我看來,GPT-4o只是用Scaling Law(規模效應)堆了大量算力,有了大量的數據,堆出來了一個東西,並不像GPT-4 之於GPT-3.5那樣有顛覆性地提升。
同時,一位AI 產業人士向鈦媒體App表示,目前OpenAI面臨大量的算力短缺問題,無法支撐未來AGI目標下的模型效能提升。 GPT-4o的發布很明顯說明OpenAI的GPT研發進展放緩。
另外, MIT Technology Review(麻省理工科技評論)報告稱,普林斯頓大學博士Tianle Cai認為,GPT-4o的中文token訓練資料受到垃圾郵件和網站的污染,可能是由於資料清理不充分所致。
「問題很明顯:用於訓練[分詞器]的語料庫不乾淨。英文token看起來不錯,但中文token就不行了,」Cai表示。語言模型在收集訓練數據時抓取垃圾郵件的情況並不罕見,因為通常會在使用數據之前花費大量精力來清理數據,因此,“他們可能沒有對中文數據進行適當的數據清理。”
不過,周健也認為, GPT-4o的發布將對數位人、智慧語音助理、遊戲、教育、行銷等產業產生重大影響。而對瀾碼這樣的企業級Agent平台公司而言,GPT-4o的發布有助於其更好地利用專家知識和經驗,使Agent獲得更強的能力。
有分析認為,大模型發展至今,如何實現AGI已歸結為兩條路:技術派希望技術成熟可控再應用;市場派則認為開放、應用並逐步走到終點。
近期,科技部落客Logan Bartlett公佈與奧特曼的對話影片。
奧特曼回憶了去年11月董事會「政變」期間,他收到世界各地一、二十個國家的總統和總理的問候,以及在那5天期間所承受的極度的壓力,稱之為一生中最奇特(surreal)的時刻。
奧特曼也表示,達到AGI的最大障礙就是新的研究。
「我認為最大的障礙是新的研究。從網路軟體到人工智慧,我必須學會的一件事是,研究工作的時間表與工程不同。這通常意味著它需要更長的時間,但有時意味著它的工作速度比任何人預測的都要快得多。 。
談到ChatGPT-4o的重要性,奧特曼稱,這種使用電腦的方式不可思議。
「用聲音控制電腦,我們有這樣的想法很長一段時間了。你知道,我們有Siri,以前還有其他一些產品。對我來說,之前這些產品在使用上從來沒有自然過。但這個新產品,它的流動性,柔韌性,簡直太棒了,我簡直不敢相信我這麼喜歡用它。在桌上,然後根本不用換介面。他在做某件事的時候,通常會停下手邊的工作,切換到另一個標籤,例如Google,再四處點擊。但現在,使用者只需要提問,它就能給出一個即時的回應,一點也不影響我在電腦上看東西,這是一件非常酷的事情。
對於GPT-5,奧爾特曼強調,AI並不總是帶來驚喜。
「我們仍然可以叫它GPT-5,並以不同的方式發布它,或者我們也可以給它一個別的名字。不過,如何為這些東西命名對我來說並沒有什麼特別的意義,比方說發布從GPT- 1到GPT-4。思考。 或者可能是不同的模型。人難以置信的效率提升。
展望未來,周健強調,他希望GPT大模型提升長時記憶或社會智能,以及希望擁有更強的邏輯推理能力,從而代表它會有一定的反思能力,而目前GPT-4o其實還是一個「缸中之腦」。
奧爾特曼稱,大模型開始具備越來越多的能力,很多年以後,人類仍然會關心其他人類。我們是如此傾向於長期關注,以各種各樣的、大大小小的方式——都是對其他人的痴迷,但人類未來不會在意AI 帶來的作用。
「我們都應該希望有一個非常聰明、非常便宜的世界,人們用它做各種各樣的事情:我想要閱讀我所有的郵件,然後幫我回覆;我想要治療癌症。你當然會選擇治療癌症,但答案是,你喜歡它同時做這兩件事,我只是想確保我們有足夠的錢來做這些。
出門問問創辦人兼CEO李志飛強調,「人機互動這個渣男,因為GPT-4o的出現,有望真的重新做人,開啟下一波的科技、應用、和商業模式的革命,期待下一個十年。