《紐約客》萬字長文還原OpenAI「宮鬥」內幕
根據國外媒體《紐約客》(The New Yorker)報道,在人工智慧新創公司OpenAI上月發生的「宮鬥」事件之前,該公司與微軟已經制定出一個雄心勃勃但安全地發佈人工智慧的協議。但OpenAI的時任董事會徹底打亂了微軟與OpenAI精心佈置的計畫。以下為文章全文:
今年感恩節前的周五(11月17日),上午11點30分左右,微軟執行長薩提亞·納德拉(Satya Nadella)正在與公司高層進行每週例會,這時一位驚慌失措的同事要他接電話。人工智慧新創公司OpenAI的一名高層打電話解釋說,在接下來的20分鐘內,公司董事會將宣布解僱OpenAI聯合創始人、執行長山姆·奧特曼(Sam Altman)。這也是OpenAI為期五天的「宮鬥」戲的開始。微軟內部把OpenAI的這場危機戲稱為「一邊倒的鬧劇」(the Turkey-Shoot Clusterfuck)。
舉止隨和的納德拉當時感到異常驚訝,以至於一時不知道該說什麼。他與奧特曼密切合作了四年多,並開始欣賞和信任他。此外,他們的合作剛剛推動微軟舉辦了十年來最大規模的發布會:眾多建立在OpenAI的技術之上的尖端人工智慧助手,並將它們整合到微軟的核心生產力應用程式中,如Word、Outlook和PowerPoint。這些助手本質上是OpenAI備受稱讚的ChatGPT的特化和更強大的版本,被稱為Office Copilots。
然而納德拉不知道的是,奧特曼和OpenAI董事會之間的關係出現了問題。董事會六名成員中的一些人發現奧特曼「狡猾而姦詐」——這些品質在科技公司的執行長中很常見,但對於有學術界或非營利組織背景的董事會成員來說卻令人不悅。「他們覺得奧特曼撒了謊,」一位熟悉董事會討論的人士表示。這些緊張關係現在在納德拉麵前爆發,威脅到一個至關重要的夥伴關係。
多年來,微軟一直沒有站在科技業的最前沿,但它與OpenAI的聯盟——OpenAI最初是一家於2015年成立的非營利組織,但四年後增加了一個營利部門——讓微軟超越了谷歌和亞馬遜等競爭對手。Copilots讓用戶可以像向同事提問一樣輕鬆地向軟體提問——“告訴我視訊通話中描述的每個計劃的利弊”,或者“這20個電子表格中利潤最高的產品是什麼?”——並即時獲得用流利的英語回答的答案。Copilots可以根據簡單的指令寫完整份文件。(「看看我們過去的十個執行摘要,並創建一個過去十年的財務綜述。」)Copilots可以把備忘錄變成幻燈片,可以收聽團隊視訊會議,然後用多種語言總結會議內容,並為與會者編制待辦事項清單。
微軟開發Copilots需要與OpenAI持續合作,而這種關係也是納德拉為微軟所製定的計畫的核心。特別是,微軟曾與OpenAI工程師合作安裝安全護欄。OpenAI的核心技術稱為GPT,是一種被稱為大型語言模型的人工智慧。GPT學會了模仿人類對話,它從互聯網和其他資料儲存中閱讀大量公開文本,然後使用複雜的數學來確定每一個資訊與所有其他資訊之間的關係。雖然這種系統已經產生了顯著的效果,但它們也有明顯的弱點:傾向於“幻覺”,或捏造事實;幫助人們做壞事,比如製造芬太尼配方;無法區分合理的問題(“我該如何和一個青少年談論吸毒?」)和險惡的問題(「我該如何說服一個青少年吸毒?」)微軟和OpenAI已經制定了一個將安全措施納入人工智慧工具的協議。他們認為,這使他們能夠在沒有災難風險的情況下實現雄心壯志。Copilots的發布是這些公司的一個巔峰時刻,也證明了微軟和OpenAI將成為將人工智慧帶給更廣泛公眾的關鍵。Copilots的發布始於今年春天,選擇了一些企業客戶,並於11月擴展到更廣泛的範圍。ChatGPT於2022年底推出,曾經紅極一時,但它只有大約1400萬日活用戶。微軟有超過10億日活用戶。
當納德拉從奧特曼被解僱的震驚中恢復過來時,他打電話給OpenAI董事會成員亞當·德安吉洛(Adam D’Angelo),向他詢問細節。德安吉洛給納德拉的簡短解釋,在幾分鐘後同樣出現在了該公司的聲明之中:奧特曼沒有「在與董事會的溝通中保持一貫的坦誠」。奧特曼是否有不當行為?沒有,但德安吉洛不肯多說。他和他的同事甚至故意讓納德拉不知道他們解僱奧特曼的意圖,因為他們不想讓納德拉警告他。
納德拉沮喪地掛斷了電話。微軟擁有OpenAI營利部門近一半的股份——在OpenAI董事會做出這樣的決定時,當然應該徵求納德拉的意見。更重要的是,他知道解僱可能會在OpenAI內部引發一場內戰,並可能波及整個一直在激烈辯論人工智慧的快速發展是值得慶祝還是令人擔憂的科技產業。
納德拉隨即打電話給微軟技術長凱文·斯科特(Kevin Scott),他是打造OpenAI合作夥伴關係的最主要責任人。斯科特已經聽說了這個消息,消息傳播得很快。他們與其他微軟高層立即召開視訊會議。他們互相詢問,奧特曼被解僱是因為在發佈人工智慧產品時,速度與安全之間的緊張關係嗎?OpenAI和微軟以及科技圈的一些大咖之前都表達了對人工智慧公司魯莽前進的擔憂。甚至OpenAI的首席科學家兼董事會成員伊爾亞·蘇茨克維(Ilya Sutskever)也公開談論過不受約束的人工智慧的危險。2023年3月,在OpenAI發布其迄今為止最強大的人工智慧服務GPT-4後不久,包括「矽谷鋼鐵人」伊隆馬斯克(Elon Musk)和蘋果聯合創始人史蒂夫沃茲尼亞克(Steve Wozniak)在內的數千人曾聯名簽署了一封公開信,呼籲暫停訓練高級人工智慧模型。「我們應該讓機器用宣傳和謊言淹沒我們的訊息管道嗎?」這封信反問。「我們應該冒著讓我們文明失控的風險嗎?」許多矽谷觀察家認為,這封信實質上就是對OpenAI和微軟的指控。
在某種程度上,斯科特尊重他們的擔憂。他認為,對於那些知道自己希望電腦做什麼,但缺乏實現它的培訓的人而言,圍繞人工智慧的討論一直奇怪地集中在科幻小說的場景上——電腦摧毀了人類——並且在很大程度上忽略了該技術「創造公平競爭環境」的潛力。史考特覺得如果人工智慧是以足夠的謹慎和足夠的耐心建立起來的話,它會有能力用簡單的語言與用戶交流,可以成為一種變革和平衡的力量。
史考特和他在OpenAI的合作夥伴已經決定緩慢但持續地發佈人工智慧產品:微軟將觀察未受教育的用戶如何與該技術互動,而用戶將自學該技術的優勢和局限性。透過發佈公認不完美的人工智慧軟體,並從客戶那裡獲得坦率的回饋,微軟找到了一種既能改進技術又能在用戶中培養懷疑的實用主義的方法。斯科特認為,管理人工智慧危險的最佳方式是對盡可能多的人盡可能透明,並讓這項技術逐漸滲透到我們的生活中——從單調的用途開始。還有什麼比透過文字處理器這樣不性感的東西來教人類使用人工智慧更好的方法呢?
斯科特所有的謹慎定位都因奧特曼被解僱而變得岌岌可危。隨著越來越多的人知道奧特曼被解僱,OpenAI的員工——他們對奧特曼和OpenAI的使命的信念近乎狂熱——開始在網路上表達出沮喪之情。這家新創公司的首席技術官米拉·穆拉蒂(Mira Murati)隨後被任命為臨時首席執行官,但她並沒有熱情地接受了這個角色。很快,OpenAI總裁格雷格·布羅克曼(Greg Brockman)在社群平台X上說:「我不幹了。」其他OpenAI員工也開始威脅要辭職。
在與納德拉的視訊通話中,微軟高層開始討論對奧特曼下台的可能回應。A計劃是試圖透過支持穆拉蒂來穩定局勢,然後與她合作,看看這家新創公司的董事會是否會改變決定,或至少對其輕率的舉動進行解釋。
如果OpenAI董事會拒不遵從,微軟高層將實施B計畫:利用其巨大的影響力,包括承諾給OpenAI但尚未打款的數十億美元,幫助奧特曼重新擔任執行長並重塑OpenAI的治理結構,方法是更換董事會成員。知情人士表示,在當時的會議中,微軟高層提到:「從我們的角度來看,事情一直進展得很好,而OpenAI的董事會做了一些不穩定的事情,所以我們想,『讓一些成年人來負責,回到我們所擁有的一切。’”
如果以上兩個計劃都失敗,C計劃將是微軟聘用奧特曼及其最有天賦的同事,在微軟內部重新建立OpenAI。在這種情況下,這家軟體巨頭將擁有所有出現的新技術,這意味著它可以把這些技術賣給其他人——這可能會狠狠賺上一筆。
參與視訊通話中的團隊認為,這三個計畫都很有力。但微軟的目的還是讓一切恢復正常。這種策略背後的信念是,微軟已經搞清楚了開發負責任人工智慧所需的方法、安全保障和框架中的一些重要內容。無論奧特曼發生了什麼,公司都在根據自己的藍圖來推進人工智慧的普及。
01 與OpenAI合作的關鍵人物
史考特確信人工智慧可以改變世界,這是因為科技已經徹底改變了他自己的生活。他在維吉尼亞州格拉迪斯(Gladys)長大,這是一個離南北戰爭時期南方主將李將軍向格蘭特投降的地方不遠的小社區。他家裡沒有人上過大學,醫療保險幾乎是個陌生的概念。作為一個男孩,斯科特有時依賴鄰居的食物。他的父親是越南獸醫,曾嘗試經營加油站、便利商店、卡車運輸公司和各種建築企業,但都以失敗告終,並兩次宣布破產。
斯科特想要一種不同的生活。他的父母以每月分期付款的方式給他買了一套百科全書,斯科特像大型語言模型Avant La Lettre一樣,把這套書從頭到尾閱讀了一遍。為了好玩,他拆開了家中的烤麵包機和食物攪拌器。他存夠了錢,買得起Radio Shack最便宜的電腦,然後透過查閱圖書館書籍學會了程式設計。
在斯科特1972年出生前的幾十年裡,格拉迪斯周圍的地區是家具和紡織廠的所在地。到了他青春期時,大部分製造業都轉移到海外。技術-供應鏈自動化,和電信的進步表面上是罪魁禍首,因為它們使得在海外生產商品變得更加容易,那裡的日常開支更便宜。但是,即使在十幾歲的時候,斯科特也覺得科技不是真正的罪魁禍首。「這個國家告訴自己,外包是不可避免的,」史考特今年9月接受採訪時曾表示。“我們可以告訴自己失去製造業的社會和政治負面影響,或保護社區的重要性。但那些從未真正成為現實。”
在進入林奇堡學院(一所隸屬於基督門徒的當地學校)後,史考特獲得了維克森林大學的電腦科學碩士學位,並於1998年開始在維吉尼亞大學攻讀博士學位。他對人工智慧很著迷,但他了解到許多電腦科學家將其視為等同於占星術。早期創造人工智慧的各種嘗試都失敗了,這個領域有勇無謀的觀念在學術部門和軟體公司根深蒂固。許多頂級思想家已經放棄了這門學科。在2000年,一些學者試圖透過將人工智慧研究重新命名為「深度學習」來復興它。但懷疑論持續存在:在2007年的一次人工智慧會議上,一些電腦科學家製作了一個惡搞視頻,暗示深度學習人群是由邪教徒組成的。
當史考特攻讀博士學位時,他注意到他遇到的一些最優秀的工程師強調了成為短期悲觀主義者和長期樂觀主義者的重要性。「這幾乎是必須的,」斯科特說。「你看到世界上所有破碎的東西,而你的工作就是努力修復它。」即使工程師認為他們嘗試的大部分都不會成功,而且一些嘗試可能會讓事情變得更糟,他們也「必須相信他們可以解決問題,直到事情最終變得更好。”
2003年,史考特從他的博士計畫中請假加盟谷歌,在那裡他負責監督行動廣告工程。幾年後,他從谷歌辭職,在行動廣告新創公司AdMob負責工程和運營,谷歌後來以7.5億美元收購了這家公司。斯科特隨後跳槽到領英,在那裡他因異常擅長以既鼓舞人心又現實的方式構建雄心勃勃的項目而聞名,2016年,領英被微軟收購,斯科特也隨之加入了微軟。
那時的斯科特已經非常富有,但在技術圈裡卻鮮為人知,因為他喜歡「匿名」。他曾計劃在微軟收購完成後離開領英,但2014年成為微軟執行長的納德拉敦促他重新考慮。納德拉分享了一些讓斯科特對人工智慧感到好奇的信息,部分由於更快的微處理器,該領域當時的發展讓這項技術身名鵲起:Facebook已經開發了複雜的面部識別系統;谷歌建立了一個能夠熟練翻譯語言的人工智慧。納德拉很快宣布,在微軟,人工智慧“將決定我們未來的所有行動。”
史考特不確定他和納德拉是否有相同的抱負。他給納德拉發了一份備忘錄,解釋說如果他留下來,他希望自己的部分議程是提升那些通常被科技業忽視的人。史考特希望人工智慧能夠幫助那些聰明但沒有接受過數位教育的人,他就是在這些人中長大的。這是一個引人注目的論點——一些技術專家會認為這是故意的嗎?鑑於人們普遍擔心人工智慧輔助的自動化會消除雜貨店收銀員、工廠工人或電影臨時演員等工作。
然而,斯科特相信一個更樂觀的故事。他受訪時表示,曾經有一段時間,大約70%的美國人從事農業工作。技術進步減少了對勞動力的需求,如今只有1.2%的勞動力務農。但這並不意味著有數百萬農民失業:許多這樣的人成為卡車司機,或回到學校成為會計師,或找到其他道路。史考特表示,「也許在更大程度上,人工智慧比之前的任何科技革命都更能用來重振美國夢。」他覺得,在維吉尼亞州經營養老院的童年好友可以利用人工智慧來處理她與醫療保險和醫療補助的互動,讓該機構專注於日常護理。另一位朋友在一家為主題樂園製造精密塑膠零件的商店工作,他可以利用人工智慧來幫助他製造零件。斯科特認為,人工智慧可以透過將“有贏家和輸家的零和交易轉變為非零和進步,讓社會變得更好。”
納德拉讀了備忘錄,正如斯科特所說:「是的,聽起來不錯。」一周後,斯科特被任命為微軟的首席技術長。
如果史考特希望微軟領導人工智慧革命,他必須幫助該公司超越Google。谷歌透過向幾乎任何人提供數百萬美元來拉攏人工智慧領域的人才,即使他們只是取得了一個小小的突破。在過去的20年裡,微軟一直試圖透過在內部人工智慧專案上花費數億美元來與Google競爭,但收效甚微。微軟高層開始認為,像微軟這樣龐大的公司——擁有超過20萬名員工和龐大的官僚體系——不具備人工智慧發展所需的靈活性和動力。「有時候越小越好,」斯科特在接受採訪時說。
在這種情況下,斯科特開始關注各種新創公司,其中一家脫穎而出:OpenAI。這家公司的使命是要確保「通用人工智慧——我們指的是在最具經濟價值的工作中超越人類的高度自治系統——造福全人類。」在此之前,微軟和OpenAI已經建立了合作關係:這家新創公司使用了微軟的雲端運算平台Azure。2018年3月,史考特在這家位於舊金山的新創公司安排了一次與一些員工的會面。他很高興見到幾十個年輕人,他們拒絕了大型科技公司的數百萬美元薪酬,為一個承諾其發明不會「傷害人類或過度集權」的組織每天工作18小時。該公司首席科學家蘇茨克維特別關注為人工智慧的出現做準備,人工智慧如此複雜,可能會解決人類的大多數問題——或者導致大規模的破壞和絕望。
同時,奧特曼是一位有魅力的企業家,他決心讓人工智慧變得有用和賺錢。斯科特認為,這家新創公司的敏感度非常理想。他表示,OpenAI致力於「將能量導向影響最大的事物。他們有一種真正的文化,即『這是我們正在努力做的事情,這些是我們正在努力解決的問題,一旦我們發現什麼可行,我們就會加倍努力。’他們對未來有一套自己的理論。”
OpenAI當時已經取得了令人矚目的成果:它的研究人員創造了一隻機器人手,可以玩魔術方塊,即使遇到以前沒有遇到過的挑戰,例如把它的一些手指綁在一起。然而,最讓史考特興奮的是,在隨後的一次會議上,OpenAI的管理層告訴他,他們已經放棄了機器人手,因為它不夠有前途。「最聰明的人有時最難管理,因為他們有一千個絕妙的主意,」史考特說。但該公司的員工對他們的工作幾乎充滿了救世主般的熱情。在今年7月斯科特遇到蘇茨克維後不久,蘇茨克維向斯科特說,人工智能將“顛覆人類生活的每一個領域”,這可能會使醫療保健等領域比現在“好一億倍」。這種自信嚇跑了一些潛在投資者,但斯科特覺得這很吸引人。
這種樂觀與當時瀰漫在微軟的陰鬱氣氛形成了鮮明對比。一位微軟前高層表示:「每個人都認為人工智慧是一場數據遊戲,Google擁有更多數據,微軟處於永遠無法縮小的巨大劣勢。」該高層補充說,「我記得當時感到非常絕望,直到斯科特說服我們,還有另一種方式來玩這個遊戲。」微軟和OpenAI之間的文化差異使他們成為特殊的合作夥伴。但對史考特和在成為OpenAI的執行長之前曾領導創業加速器Y Combinator的奧特曼來說,聯手是非常明智的。
納德拉、斯科特和微軟的其他人願意容忍這些奇怪的事情,因為他們相信,如果他們能夠用OpenAI技術強化自己的產品,並利用新創公司的天賦和雄心,他們將在人工智慧競賽中獲得顯著優勢。2019年,微軟同意向OpenAI投資10億美元。從那以後,微軟實際上獲得了OpenAI營利部門49%的股份,以及將OpenAI過去和未來的發明商業化的權利,包括在Word、Excel、Outlook、以及Skype和Xbox遊戲機等產品,都可以應用OpenAI的技術。
02 貧困中長大的穆拉蒂
納德拉和斯科特對這項投資的信心是由他們與奧特曼、蘇茨克維和首席技術官穆拉蒂形成的紐帶所支撐的。史考特特別重視與穆拉蒂的關係。像他一樣,她也是在貧困中長大的。她1988年出生於阿爾巴尼亞,經歷了黑幫資本主義的興起和內戰的爆發。她透過參加數學競賽來應對這一巨變。
當穆拉蒂16歲時,她獲得了加拿大一所私立學校的獎學金,在那裡她表現出色。「我童年的許多時光充斥著警笛聲、槍擊案以及其他可怕的事情,」穆拉蒂在今年夏天接受採訪時說。「但仍然有快樂的生日、少女的單相思和知識的海洋。這教會你一種堅韌的品德——相信如果你繼續努力,事情會變得更好。”
穆拉蒂在達特茅斯大學學習機械工程,期間加入了一個研究團隊,該團隊正在建造一輛由超級電容器電池供電的賽車,這種電池能夠產生巨大的能量爆發。其他研究人員認為超級電容器不切實際;還有一些人追求更深奧的技術。穆拉蒂認為這兩種觀點都太過極端。這樣的人永遠不可能穿越彈坑到達她的學校。穆拉蒂說,你必須是一個樂觀主義者和現實主義者,「有時人們會把樂觀主義誤解為粗心的理想主義。但這必須經過充分的考慮和深思熟慮,要有很多護欄——否則,你會冒很大的風險。”
畢業後,穆拉蒂加入了特斯拉,然後在2018年加入了OpenAI。史考特表示,他同意十億美元投資的一個原因是他「從未見過穆拉蒂慌張的樣子。」他們開始討論如何使用超級電腦來訓練各種大型語言模型。
兩家公司很快就建立並運行了一個系統,結果令人印象深刻:OpenAI訓練了一個機器人,它可以生成令人驚嘆的圖像,以響應諸如“給我看狒狒在耶穌旁邊扔披薩,以馬蒂斯的風格呈現”的提示。另一個創造GPT,能夠用英語會話回答任何問題——即使不是總是正確的。但目前還不清楚普通人如何將這種技術用於除了無所事事的娛樂之外的任何事情,也不清楚微軟如何收回投資。今年年初又有消息稱,微軟的投資將增加至100億美元。
2019年的一天,一位名為達裡奧·阿莫代伊(Dario Amodei)的OpenAI副總裁向他的同行展示了一件非凡的事情:他向GPT輸入了一個軟體程式的一部分,並要求系統完成編程。它幾乎立刻就這麼做了(使用了阿莫代伊自己沒有計劃使用的技術)。沒有人能確切地說出人工智慧是如何做到這一點的——大型語言模型基本上就是一個黑盒子。GPT的實際代碼相對較少;它的答案是一個字一個字地基於數十億的數學“權重”,根據複雜的概率決定下一步應該輸出什麼。在回答使用者的問題時,不可能繪製出模型建立的所有聯繫。
對OpenAI內部的一些人來說,GPT神秘的程式設計能力令人恐懼——畢竟,這是《魔鬼終結者》等反烏托邦電影的場景。當員工注意到,儘管GPT技術高超,但有時還是會犯下程式錯誤,這幾乎令人振奮。在了解到GPT的程式設計能力後,史考特和穆拉蒂感到有些擔心,但更多的是興奮感。他們一直在尋找人工智慧的實際應用,人們可能會付費使用。
03 Copilot的出生
5年前,微軟收購了GitHub,原因與它投資OpenAI的原因大致相同。GitHub的文化年輕且快速發展,不受傳統和正統文化束縛。被收購後,它成為微軟內部的獨立部門,擁有自己的執行長和獨立決策權。事實證明該策略是成功的,GitHub深受軟體工程師的喜愛,其用戶數量增長到了一億多。
因此,史考特和穆拉蒂在尋找一個可能會對能夠自動完成程式碼的工具感到興奮的微軟部門——即使它偶爾會出錯——他們轉向GitHub的執行長納特·弗里德曼( Nat Friedman)。畢竟,發佈在GitHub上的程式碼有時會包含錯誤;使用者已經學會解決不完美的地方。弗里德曼說他想要這個工具。他指出,GitHub只需要想出一個方法來告訴人們,他們不能完全信任自動完成功能。GitHub員工集體討論了該產品的名稱:Coding Autopilot、Automated Pair Programmer、Programarama Automat。弗里德曼是一名業餘飛行員,他和其他人認為這些名稱錯誤地暗示該工具可以完成所有工作。而這個工具更像是副駕駛——一個和你一起進入駕駛艙並提出建議的人,同時偶爾也會提出一些不合時宜的建議。通常你會聽副駕駛的意見;有時你會選擇忽略。當史考特聽到弗里德曼最喜歡的名字——GitHub Copilot時,他很喜歡這個名字。斯科特說:“這個名稱完美地傳達了它的優點和缺點。”
但當GitHub準備在2021年推出Copilot時,微軟其他部門的一些高層提出抗議,認為該工具偶爾會產生錯誤,會損害微軟的聲譽。「這是一場激烈的戰鬥,」弗里德曼告訴我。「但我是GitHub的首席執行官,我知道這是一個很棒的產品,所以我發布了它。」當GitHub Copilot發布後,立即大獲成功。「Copilot簡直讓我大吃一驚,」一名用戶在發布幾小時後發推文說。「這是魔法!!!」另一個貼子說。微軟開始對該應用程式收取每月10美元的費用;不到一年,GitHub的年收入就超過了一億美元。該部門的獨立性得到了回報。
但是GitHub Copilot也引起了不太正面的反應。在留言板上,程式設計師推測,如果有人太懶或太無知而沒有在部署自動完成的程式碼之前檢查它,這種技術可能會蠶食他們的工作,或者給網路恐怖分子提供動力,或者引發混亂。包括一些人工智慧先驅在內的知名學者引用了已故的斯蒂芬·霍金(Stephen Hawking)在2014年的聲明,即“全人工智慧可能意味著人類的終結。”
令人震驚的是,GitHub Copilot的用戶發現瞭如此多的災難性可能性。但GitHub和OpenAI的高層也注意到,人們使用這個工具越多,他們對它的能力和限制的理解就越微妙。「使用一段時間後,你會對它擅長什麼和不擅長什麼有一種直覺,」弗里德曼說。“你的大腦會學習如何正確使用它.”
微軟高層認為,他們找到了一個既有魄力又負責任的人工智慧發展策略。史考特開始寫一份備忘錄,題為《人工智慧Copilot的時代》,並於2023年初發送給微軟的技術領導人。史考特寫道,重要的是,微軟為向世界解釋這項技術找到了一個強有力的比喻:「Copilot所做的正是名字所暗示的;對於試圖完成複雜任務的用戶來說,它是一個專家助手…Copilot可以幫助使用者了解其能力的極限。”
在ChatGPT發布後,它讓大多數人了解了人工智慧,並迅速成為史上成長最快的消費級應用程式。但是斯科特可以預見未來:機器和人類透過自然語言互動;人們,包括那些對程式設計一無所知的人,僅僅透過說出他們想法來給電腦程式設計。這是他一直在追求的公平競爭環境。正如OpenAI的聯合創始人在社交媒體上所說:“最熱門的新程式語言是英語。”
史考特寫道:「在我的職業生涯中,我從未經歷過我的領域發生如此大變化的時刻,重新想像可能性的機會如此現實和令人興奮。」下一個任務是將GitHub Copilot— —一款精品產品-的成功應用於微軟最受歡迎的軟體。這些Copilot的引擎將會是新的OpenAI發明:一個大型語言模型。OpenAI稱之為GPT-4。
微軟多年前曾試圖將人工智慧帶給大眾,但最終尷尬的失敗收場。1996年,該公司發布了Clippy,這是其辦公室產品的「助手」。Clippy在螢幕上顯示為一個有著卡通大眼睛的紙夾,看似隨機地彈出,詢問用戶是否需要幫助來寫信、打開PowerPoint或完成其他任務。傑出的軟體設計師艾蘭·庫伯(Alan Cooper)後來說,Clippy的設計是基於對研究的“悲劇性誤解”,研究表明人們可能會更好地與似乎有情感的計算機互動。使用者當然對Clippy有情緒:他們討厭它。史密森尼稱之為「電腦史上最糟糕的軟體設計失誤之一。」2007年,微軟砍掉了Clippy。
9年後,微軟創造了人工智慧聊天機器人Tay,旨在模仿一個十幾歲女孩的語調和注意力,目的是為了與推特用戶互動。Tay幾乎立即開始發布種族主義、性別歧視和同性戀恐懼的內容,包括「希特勒是對的」的聲明。在發布後的第一個16小時內,Tay發布了96,000次,此時微軟意識到這是一場公關災難,將其關閉。
到了2022年底,微軟高層覺得已經準備好開始為Word、Excel和其他產品開發Copilots。但微軟明白,就像法律是不斷變化的一樣,即使在產品發布後,產生新的保護措施的需求也會不斷增加。人工智慧工程主管莎拉·伯德(Sarah Bird)和史考特經常因這項技術的失誤而感到汗顏。在疫情期間,當他們測試另一項OpenAI發明圖像生成器Dall-E 2時,他們發現如果要求系統創建與新冠肺炎有關的圖像,它通常會輸出貨架被搶空的圖片。一些微軟員工擔心這樣的影像會加劇人們對疫情導致經濟崩潰的擔憂,他們建議改變產品的安全措施以抑制這種趨勢。但微軟的其他人認為這些擔憂是愚蠢的,不值得軟體工程師花時間。
史考特和伯德決定在有限的公開發布中測試這個場景,而不是裁定這個內部辯論。他們推出了一個版本的圖像生成器,然後等著看用戶是否會因為看到螢幕上的空貨架而感到不安。他們不會為一個沒有人確定存在的問題設計一個解決方案——就像一個眼睛瞪得圓圓的回形針幫助你瀏覽一個你已經知道如何使用的文字處理器——他們只會在必要時增加一個緩解措施。在監控社群媒體和網路的其他角落,並收集用戶的直接回饋後,史考特和伯德得出結論,這些擔憂是沒有根據的。「你必須在公共場合進行實驗,」斯科特說。“你不能試圖自己找到所有的答案,並希望你把一切都做對。我們必須學會如何一起使用這些東西,否則我們誰也搞不懂。”
2023年初,微軟準備發布首次將GPT-4整合到微軟品牌產品中:搜尋引擎必應。整合人工智慧技術的必應受到熱烈歡迎,下載量激增了八倍。納德拉開玩笑說微軟打敗了“800磅重的大猩猩”,以此來嘲諷谷歌。(儘管這項創新令人印象深刻,但就市場份額而言並沒有多大意義:谷歌仍然佔據90%以上的搜尋份額。)
必應只是一個微軟議程上的一個開端。隨後微軟開始在其他產品中推出Copilot。今年春天,當微軟最終開始推出Copilots時,版本的發布是小心翼翼地錯開的。最初,只有大公司才能使用這項技術;隨著微軟了解這些客戶如何使用它並開發出更好的保護措施,它才會提供給越來越多的用戶。截至11月15日,已有數萬人在使用Copilots,預計很快就會有數百萬人註冊。
在這兩天之後,納德拉忽聞奧特曼被解僱。OpenAI董事會的一些成員發現奧特曼是個狡猾得令人不安的操縱者。例如,今年秋初,他與喬治城大學安全和新興技術中心主任海倫·托納(Helen Toner)對質,因為她與人合寫了一篇論文,似乎批評OpenAI“助長了人工智能炒作的火焰” 。托納為自己辯護(儘管她後來向董事會道歉,沒有預料到這篇論文會被怎麼看待)。奧特曼開始單獨接觸其他董事會成員,討論替換她的問題。當這些成員交換談話記錄時,有些人認為奧特曲解成他們支持解除托納職務。「他會在其他人的想法上撒謊,讓他們互相爭鬥,」熟悉董事會討論的人士透露。「這樣的事情已經發生多年了。」(一位熟悉奧特曼觀點的人士表示,他承認“試圖讓一名董事會成員下台的方式很笨拙”,但他沒有企圖操縱董事會。)
04 微軟的A、B、C計劃
奧特曼被認為是個精明的企業鬥士。這在過去對OpenAI很有幫助:2018年,他阻止了早期董事會成員馬斯克收購OpenAI的衝動。奧特曼控制資訊和操縱認知的能力——公開的和秘密的——吸引了風險資本家透過投資各種新創公司來相互競爭。他的戰術技巧如此令人畏懼,以至於當董事會的四名成員——托納、德安吉洛、蘇茨克維和塔莎·麥考利(Tasha McCauley)——開始討論罷免他時,他們決心保證讓他措手不及。「很明顯,一旦山姆知道了,他會盡一切可能削弱董事會,」熟悉這些討論的人士說。
不高興的董事會成員覺得OpenAI的任務要求他們對人工智慧變得太危險保持警惕,他們認為奧特曼在位的情況下,他們無法履行這一職責。「任務是多方面的,要確保人工智慧造福全人類,但如果不能讓執行長負起責任,沒人能做到,」另一名了解董事會想法的人說。奧特曼看問題的角度不同。熟悉他的觀點的人說,他和董事會進行了“非常正常和健康的董事會辯論”,但一些董事會成員不熟悉商業規範,並被他們的責任所嚇倒。這個人說,“我們每向人工智慧靠近一步,每個人都要承受10分的精神錯亂。”
很難說董事會成員更害怕有感知能力的計算機,還是擔心奧特曼擅作主張。但不管怎樣,董事會最終選擇了先發制人,他們誤以為微軟會和他們站在一起,共同把奧特曼當作目標,支持他們的罷免決定。
納德拉得知奧特曼被解僱的消息並召集斯科特和其他高管召開視訊會議後不久,微軟開始執行A計劃:支持穆拉蒂擔任臨時首席執行官以穩定局勢,同時試圖查明董事會為何如此衝動。納德拉已經批准發布一份聲明,強調“在我們將人工智慧的下一個時代帶給我們的客戶時,微軟仍然致力於米拉和他們的團隊”,並在他的個人X和LinkedIn帳戶上表達了同樣的觀點。他與穆拉蒂保持著頻繁的聯繫,以便及時了解她從董事會掌握的資訊。
答案是:不多。在奧特曼被解僱的前一天晚上,董事會通知了穆拉蒂他們的決定,並得到了她保持沉默的承諾。他們認為她的同意意味著她支持解僱奧特曼,或至少不會反對董事會,他們也認為其他員工也會同意。他們錯了。在內部,穆拉蒂和其他OpenAI高層表達了他們的不滿,一些員工認為董事會的行動是政變。OpenAI的員工向董事會成員提出尖銳的問題,但董事會幾乎沒有回應。兩位熟悉董事會想法的人士表示,出於保密的考慮,董事會成員感到必須保持沉默。此外,隨著奧特曼下台成為全球新聞,董事會成員感到不知所措,“與任何人接觸的頻寬有限,包括微軟。”
奧特曼被解僱的第二天,OpenAI的首席營運長布拉德·萊特卡普(Brad Lightcap)發送了一份全公司備忘錄,稱他了解到“董事會的決定不是為了應對瀆職或任何與我們的財務、業務、安全或安全/隱私實踐相關的事情。」他接著說,「這是山姆和董事會之間溝通的中斷。」但是,每當有人要求奧特曼舉例說明他沒有像董事會最初抱怨的那樣“在溝通中一貫坦誠”,董事會成員都保持沉默,甚至拒絕提及奧特曼反對托勒的運動。
在微軟內部,整個事件看起來愚蠢得令人難以置信。據報道,到目前為止,OpenAI價值約800億美元。該公司的一位高層表示:「除非OpenAI董事會的目標是毀滅整個公司,否則他們似乎總是莫名其妙地在每次做決定時做出最糟糕的選擇。」即使其他OpenAI員工在總裁布羅克曼的帶領下公開辭職,董事會仍保持沉默。
A計劃顯然失敗了。因此,微軟的高層轉向了B計畫:納德拉開始與穆拉蒂協商,看是否有辦法恢復奧特曼的執行長職位。在此期間,板球世界盃正在進行,納德拉鍾愛的印度隊在決賽中對陣澳大利亞隊。納德拉偶爾會在社交平台X上發文報告賽事的最新進展,希望緩解緊張的氛圍,但他的許多同事不知道他在說什麼。
OpenAI員工威脅要反抗。穆拉蒂和這家新創公司的其他人在微軟的支持下,開始敦促所有董事會成員辭職。最終,他們中的一些人同意離開,只要他們認為替代者可以接受。他們表示,他們甚至可能對奧特曼的回歸持開放態度,只要他不是首席執行官,並且沒有獲得董事會席位。到了感恩節前的那個週日,每個人都筋疲力盡了。OpenAI董事會邀請穆拉蒂單獨加入他們進行私人談話。他們告訴她,他們一直在秘密招募一位新的首席執行官,並終於找到了願意接受這份工作的人。
對穆拉蒂、OpenAI員工、微軟而言,他們只能抓住最後一根稻草,啟動C計畫。週日晚上,納德拉正式邀請奧特曼和布羅克曼領導微軟內部的一個新的人工智慧研究實驗室,並提供他們想要的所有資源和盡可能多的自由。兩人都接受了。微軟開始為他們認為將加入該部門的數百名OpenAI員工準備辦公室。
穆拉蒂和她的同事寫了一封公開信給OpenAI的董事會:「我們無法為那些缺乏能力、判斷力且不關心我們使命和員工的人工作或與他們合作。」該信件的作者承諾辭職並“加入新成立的微軟子公司”,除非所有現任董事會成員辭職並重新任命奧特曼和布羅克曼。幾個小時內,幾乎所有OpenAI員工都簽署了這封信。
C計劃以及OpenAI大規模離職的威脅足以讓董事會態度軟化。感恩節前兩天,OpenAI宣布奧特曼將重新擔任執行長。除德安吉洛外,所有董事會成員都將辭職,而更知名的人物——包括Facebook前高管、推特董事長布雷特·泰勒(Bret Taylor),以及前財政部長、哈佛大學校長拉里·薩默斯(Larry Summers)-將出任董事。OpenAI的高層同意對所發生的事情進行獨立調查,包括奧特曼過去擔任執行長的行為。
儘管C計畫最初看起來很誘人,但微軟高層後來得出的結論是,目前的情況是最好的結果。將OpenAI的員工轉移到微軟可能會導致成本高且浪費時間的訴訟,也可能引發政府調查。在新框架下,微軟獲得了OpenAI的無投票權的董事會觀察員席位,使其在不引起監管審查的情況下獲得了更大的影響力。
05 微軟的巨大勝利
事實上,這齣肥皂劇的結局被視為微軟的巨大勝利,也是對其開發人工智慧方法的有力認可。一位微軟高層表示:「奧特曼和布羅克曼真的很聰明,他們可以去任何地方。但他們選擇了微軟,所有那些OpenAI的人都準備好選擇微軟,就像四年前選擇我們一樣。這極大地驗證了我們建立的體系。他們都知道,這裡是繼續他們正在做的工作的最佳地點,最安全的地點。”
同時,被解僱的董事會成員堅稱他們的行為是明智的。「將會有一個全面和獨立的調查,而不是把一群山姆的親信放在董事會,我們最終有了可以對抗他的新人,」熟悉董事會討論的人透露。「山姆很有權力,他很有說服力,他善於為所欲為,現在他注意到人們在看著他。」前董事托納說,「董事會始終專注於履行我們對OpenAI使命的義務。」(奧特曼告訴其他人,他歡迎調查——部分是為了幫助他理解為什麼會發生這樣的悲劇,以及他本可以採取哪些不同的措施來防止這種情況發生。)
一些人工智慧監管機構對這個結果不是特別滿意。開源人工智慧平台Hugging Face的首席倫理學家瑪格麗特·米歇爾(Margaret Mitchell)認為,「董事會解僱奧特曼的時候,確實是在做自己的工作。他的回歸將會產生寒蟬效應。我們將會看到越來越少的人在公司內部直言不諱,因為他們會認為自己會被解僱——而高層的人會更加不負責任。”
就奧特曼而言,他準備好討論其他事情。「我認為我們只是轉向良好的治理和優秀的董事會成員,我們將進行獨立評估,這讓我非常興奮,」他告訴我。“我只是希望每個人都繼續生活,開心快樂。我們會繼續進行這項任務。”
讓納德拉和斯科特鬆了一口氣的是,隨著Copilots的大規模發布,微軟的一切都恢復正常了。不過Office Copilots看起來既令人印象深刻又平庸。它們讓平凡的任務變得更容易,但它們距離取代人類工人還有很長的路要走。它們感覺和科幻小說預言的相去甚遠,但是它們也是人們可能每天都會用到的東西。
根據斯科特的說法,這種效果是有意的。「真正的樂觀主義意味著有時要慢慢來,」他說。如果他、穆拉蒂和納德拉如願以償——鑑於他們最近的勝利,這種可能性現在更大——人工智慧將繼續穩步滲透到我們的生活中,其速度足以適應短期悲觀主義所需的警告,並且只有在人類能夠吸收這項技術應該如何使用的情況下才會如此。事情仍有可能失控——人工智慧的漸進發展將阻止我們意識到這些危險,直到為時已晚。但是,就目前而言,史考特和穆拉蒂相信他們能夠平衡進步和安全。
史考特表示:「人工智慧是人類為提高每個人的生活品質而發明的最強大的東西之一。但這需要時間,也應該需要時間。我們總是透過科技來解決極具挑戰性的問題。因此,我們可以告訴自己一個關於未來的好故事,也可以告訴自己一個關於未來的壞故事——無論我們選擇哪一個,那都有可能成為現實。”