上個月從OpenAI離職的公司聯合創始人、（前）首席科學家，以及去年在OpenAI董事會投出關鍵一票將奧爾特曼趕出公司，又反悔將他請回來的深度學習領域權威專家伊爾亞‧蘇茨克維（Ilya Sutskever），正式宣佈單飛後的全新AI創業計畫。

（來源：X）

簡單來講，蘇茨克維創辦了一家叫做「安全超級智慧」（Safe Superintelligence，簡稱SSI）的新公司，目標是「一步到位」創造一個安全的超級智慧。

安全第一、直通終極目標

蘇茨克維打算在一個純粹的研究機構裡，直接創造一個安全、強大的人工智慧系統，同時不會在短期內推出任何商業化產品或服務。他對媒體介紹稱：「這個公司很特別，因為它的第一個產品就會是安全的超級智能，直到（實現）那一天前不會做任何其他事情，完全隔離於外部壓力，不必去處理大型、複雜的產品或陷入激烈的競爭。

安全第一、不搞商業化、不理睬外界壓力，整段話裡蘇茨克維沒有提到過一次OpenAI，但背後的意思已經不言自明。雖然OpenAI的「宮鬥」事件以奧爾特曼的大勝、速勝結束，但整件事情背後加速主義與安全主義的路線之爭並沒有結束。

雖然理念不同，但雙方私下仍維持著尚可的關係。在今年5月15日宣布離開工作十年的OpenAI之時，蘇茨克維也發布了一張管理層的合照，並表示相信在奧爾特曼等人的帶領下，OpenAI將構建出安全又有益的AGI（通用人工智慧）。

（來源：X）

對於蘇茨克維的分道揚鑣，奧爾特曼回應稱“深感悲傷”，並表示沒有蘇茨克維就沒有OpenAI的今天。

自去年的「宮鬥」事件結束後，蘇茨克維一直對於整件事保持沉默，直到今天依然如此。當被問及他與奧爾特曼的關係時，蘇茨克維只是簡單地回答了一句“很好”，而被問及過去幾個月的經歷時，他也只是表示“非常奇怪”。

“像核安全一樣的安全”

從某種意義上來看，蘇茨克維目前也無法準確界定AI系統安全與否的分界線，只能說有一些不一樣的想法。

蘇茨克維暗示稱，他的新公司將嘗試使用「嵌入AI系統的工程突破」來實現安全，而不是技術上臨時應用的「防護欄」。他強調：「我們所說的安全，是指像核子安全一樣的安全，而不是類似『信任與安全』那樣的東西」。

他表示花了很多年來思考AI安全方面的問題，並且在心目中已經有了幾種實現的方法。他介紹稱：「在最基本的層面上，安全的超級智慧應該具有這樣的特性，即不會對人類造成大規模傷害。在此之後，我們可以說希望它成為一種善的力量，一種建立在關鍵價值上的力量。

除了大名鼎鼎的蘇茨克維外，SSI還有兩位創辦人－前蘋果公司機器學習主管、知名科技創投人丹尼爾‧格羅斯，另一個是與蘇茨克維一同在OpenAI訓練大模型的工程師丹尼爾·萊維。

萊維表示，我的願景與蘇茲克維完全一致：一個小而精幹的團隊，每個人都專注於實現安全超級智慧的單一目標。

雖然目前並不清楚SSI為何敢於喊出「一步到位」（到底有多少投資人、投了多少錢），但格羅斯明確表示，公司的確會面臨許多問題，但找錢不會是其中之一。

回歸OpenAI的初心

從一系列願景中不難發現，所謂“安全超級智慧”，本質上就是OpenAI創立初期的概念。但隨著訓練大模型帶來的費用激增，OpenAI不得不與微軟合作，換取資金和算力支持延續他們的事業。

這樣的問題也會出現在SSI未來的路上——公司的投資人真的願意投入大量資金，看著這家公司沒有任何產出，直到實現「超級智慧」的最終目標嗎？

順便一提，「超級智慧」本身也是一個理論上的概念，指的是一種超越人類水準的人工智慧系統，比起全球大多數超級科技公司所追求的成果更加先進。但業界對於能否實現這樣的智能，或如何建構這樣的系統尚未形成共識。

而令人在意的是，在SSI公司發布的首個公告中，第一句話就是「超級智慧已經近在咫尺」。

附：SSI公告

安全超級智慧公司（Safe Superintelligence Inc．）

超級智慧已經近在咫尺。

建構安全的超級智慧是我們這個時代最重要的技術問題。

我們已經啟動了世界上第一個直擊目標的SSI實驗室，目標和產品只有一個：安全的超級智慧。

它叫做安全超級智慧公司。

SSI是我們的使命、我們的名字和我們全部的產品路線圖，因為這是我們唯一的關注點。我們的團隊、投資者和商業模式都齊心協力實現SSI。

我們將安全性和能力並行，視為需要透過革命性工程和科學突破解決的技術問題。我們計劃在確保安全性始終優先的情況下盡可能快速地提高能力。

這樣，我們就能在平靜的狀態中擴展。

我們的專注意味著不會因管理事務或產品週期而分心，我們的商業模式意味著安全性和技術進步都不會受到短期商業壓力的影響。

我們是一家美國公司，在帕洛阿爾托和特拉維夫設有辦事處，這些地方是我們的根基所在，也能在這​​些地方招募到頂尖的技術人才。

我們正在組建一個精簡的、出類拔萃的世界頂尖工程師和研究人員團隊，只專注於SSI。

如果你是那樣的人，我們提供一個機會，讓你完成一生的事業，幫助解決我們這個時代最重要的技術挑戰。

現在是時候了。加入我們。

伊利亞·蘇茨克維爾、丹尼爾·格羅斯、丹尼爾·利維

2024年6月19日