由OpenAI前首席科學家Ilya Sutskever聯合創立的AI新創公司Safe Superintelligence（SSI）已籌集10億美元現金，以幫助開發遠遠超過人類能力的安全的AI系統。 SSI目前擁有10名員工，計劃利用這筆資金來獲得運算能力，並僱用頂尖人才。 SSI將專注於在加州帕洛阿爾托（Palo Alto）和以色列特拉維夫（Tel Aviv）建立一個高度可信的小型研究人員和工程師團隊。

SSI拒絕透露其估值，但內行人預計，估值約為50億美元。在此之前，人們對資助這些AI新創公司的興趣有所減弱，因為這些公司可能在很長一段時間內無利可圖。但SSI這筆交易表明，一些投資者仍願意對專注於基礎AI研究的傑出人才進行巨額押注。

參與SSI本輪融資的投資者包括頂級創投公司Andreessen Horowitz、紅杉資本、DST Global和SV Angel。此外，由Github前CEO Nat Friedman和SSI執行長Daniel Gross經營的投資公司NFDG也參與了投資。

目前，AI安全，即防止AI造成傷害，是一個熱門話題。因為人們擔心失去控制的AI可能會損害人類的利益，甚至導致人類滅絕。

近日，加州立法者通過了一項備受爭議的法案，旨在對AI設立新的限制，確保AI技術既具有創新性，也具備安全性和可靠性。但該法案引發了產業分裂，遭到了OpenAI和Google等公司的反對，但得到了Anthropic和伊隆馬斯克的xAI的支持。

Sutskever今年37歲，是AI領域最具影響力的技術專家之一。受OpenAI CEO薩姆·奧特曼（Sam Altman）被罷免一事的影響，Sutskever在OpenAI董事會的角色被削弱。後來，他被董事會除名，並於5月離開了公司。 6月，他與Gross和OpenAI前研究員Daniel Levy共同創立了SSI。

Sutskever稱，他的新項目很有意義，因為他「發現了一座山，與我正在研究的山有點不同。」SSI目前非常注重招募符合其文化的員工。 Gross稱，他們花了幾個小時來審查候選人是否具有“良好的品格”，並正在尋找具有非凡能力的人，而不是過分強調該領域的資歷和經驗。

SSI也表示，計劃與雲端供應商和晶片公司合作，為其運算能力需求提供資金，但尚未決定與哪些公司合作。通常，AI新創公司會選擇與微軟和英偉達等公司就合作，以滿足其基礎設施需求。