AI新創集體跳槽OpenAI Ilya出走後安全團隊重整旗鼓
AI安全公司Indent執行長Fouad Matin和他的團隊將加入OpenAI,致力於為AGI做好安全準備。上週,在內部的離職潮和外部的口誅筆伐之下,OpenAI可謂是內憂外患:
– 侵權寡姐引發全球熱議
– 員工簽署「霸王條款」被接連爆出
– 網友細數奧特曼“七大罪”
闢謠:根據Vox獲得的洩漏訊息和文件,OpenAI的高級領導層,包括Altman在內,非常了解這些股權回收條款,並且簽署了它們。
除此之外,還有一個嚴峻而迫切的問題擺在OpenAI面前——AI安全。
最近,五名與安全相關的員工離職,其中包括兩名最著名的員工,「超級對齊」團隊的解散讓OpenAI的安全問題再次被置於聚光燈下。
《財星》雜誌報導,OpenAI從未兌現讓其超級對齊團隊獲得其20%運算資源的承諾。
2023年7月,OpenAI成立了一個新團隊,致力於確保未來可能比人類加起來還要聰明的人工智慧系統能夠被安全控制。為了表明該公司對這一目標的重視程度,它公開承諾將投入當時可用計算資源的20%用於這項工作。
現在,還不到一年時間,這個名為「超級對齊」的團隊因員工辭職以及OpenAI將產品發佈置於人工智慧安全之上的指控而被解散,據6位知情人士稱,OpenAI從未履行向該團隊提供20%算力的承諾。
但在上週四,Indent執行長Fouad Matin在X和Reddit上宣布,“我們加入了OpenAI,致力於為AGI做好安全準備! ”
他在推文中寫道,“我很高興能與一支出色的團隊一起保障未來的安全,從前沿模型準備到客戶數據控制,確保人工智能安全並造福於每個人是非常重要的。”
看來,OpenAI安全團隊正在重整旗鼓,招募新人,那麼,剛被OpenAI招募的Fouad Matin能否臨危受命,「挽大廈於將傾」呢?
Fouad Matin和他的團隊
有「不明真相的吃瓜群眾」在Fouad Matin的貼文下留言:「我們加入了OpenAI 」中的「我們」是誰?
顯然,答案不是「他的兩個半腦」那麼簡單,Fouad Matin背後的資源是他所創辦的Indent,Indent正是一家致力於「建立安全的未來」的AI公司。
目前,Indent已經在其官方網站上發布了“日落通知”,宣布Indent將在今年7月停止服務。
我們創辦Indent的目標是幫助團隊保護最重要的東西。我們的客戶已經保護了從客戶資料和生產基礎架構到日常業務軟體的一切安全,而這一切都不會降低團隊的速度。
經過慎重考慮,我們做出了一個非常艱難的決定:Indent將在未來幾個月內關閉,我們將幫助客戶過渡,並繼續為實現這一共同目標而努力。
在太平洋標準時間2024年7月15日下午12點之前,團隊都可以提出申請,屆時服務將關閉。審計日誌將提供到7月19日,之後我們將開始資料刪除流程。
我們要感謝每一位使用Indent的用戶,從第一天就獲得存取權的早期創業公司,到使用Indent保護關鍵任務資源的數百人團隊。
Fouad Matin是Indent的聯合創始人和CEO,Fouad Matin稱,他創辦Indent是因為發現大多數公司不知道誰有權訪問客戶數據,而且對於大多數公司來說,發現這一問題的成本太高,更不用說鎖定這些數據了。而Indent可以提供使用者友善的存取控制。 2021年12月,Indent為按需存取控制融資560萬美元。
在2018年創辦Indent之前,Fouad Matin還有3段工作經驗。
2014年,Fouad Matin曾和其他聯創共同創辦了一家推薦招聘公司,他在其中負責產品、銷售和工程設計。曾參加首屆Y Combinator獎學金計畫和YC W16。
2016年,他創辦了一個無黨派非營利組織,致力於為年輕人建立最簡單的登記和投票方式,幫助100萬人投票。
2017年,他在Segment擔任工程師,領導細分角色的產品和工程開發,使客戶能夠將使用者操作解析為設定檔。致力於更好的產品體驗設計。
正如Fouad Matin在個人簡介中所介紹的那樣,他是一名軟體工程師和產品設計師,有時也會投資新創公司,在過去幾年裡,他曾幫助數百萬人投票給非營利組織和公司,以管理他們的客戶資料。
現在,他在OpenAI從事安全工作。 Indent日落,而Fouad Matin將開啟他新的職業旅程。
其他成員
在Fouad Matin推文的留言區,有和他相識2年的好友對他表示祝賀,這位好友透露,除Fouad Matin以外,一同加入OpenAI安全團隊的還有Dan Gillespie。
Dan Gillespie將主要從事的是「建立為AGI到來所需的安全運算平台」。
無獨有偶,和Fouad Matin有一點相同的是,Dan Gillespie也具有投資背景,根據他在領英的介紹,他也曾在Y Combinator任職過,Y Combinator是矽谷最負盛名的創業孵化器,在過去一年投資了260多家AI新創公司,是矽谷乃至全世界AI創業趨勢的風向標。
左:Dan Gillespie, 23歲
彭博社觀點專欄提出,“2024年5月將被人們銘記為AI安全運動消亡的月份。同時,人們也將記住,5月是AI更安全的工作真正開始的時間。”
OpenAI作為領先的AI公司,能否在消極的聲音之下,真正堅持建立一個更安全的系統,我們希望OpenAI新安全團隊能夠帶來不同。