為什麼人們越來越不信任OpenAI?
美國人工智慧新創公司OpenAI最近宣布聘請美國國家安全局(NSA)前局長保羅·中曾根(Paul M. Nakasone)加入其董事會,此舉引發了廣泛關注。中曾根曾長期擔任美國網路司令部負責人及中央安全局(CSS)局長。 OpenAI聲稱,這一人事變動顯示出公司對安全和保障的堅定承諾,並強調了在人工智慧不斷發展的背景下,網路安全的重要性。
中曾根在一份聲明中表示:“OpenAI對使命的執著與我個人的價值觀和公共服務經歷高度契合。我期待為確保通用人工智能的安全性及其對全球人民的積極影響貢獻力量。”
然而,批評者擔心這可能暗示OpenAI向監控傾斜。 2013年揭露美國監控計畫的告密者愛德華·斯諾登(Edward Snowden)在社群平台X上表示,中曾根的加入是對「全人類權利的公然背叛」。
斯諾登在X上發文警告:“他們已經摘下了面具:永遠不要信任OpenAI及其產品,如ChatGPT等。”
他還評論道:“人工智慧與過去二十年積累的海量監控數據結合,將賦予少數不受監督的人極大的權力。”
而美國參議院情報委員會主席、弗吉尼亞州民主黨參議員馬克·華納(Mark Warner)則將中曾根的加入視為一次“重大收穫”,他表示:“在安全領域,沒有人比他更受尊敬。”
OpenAI需要中曾根在安全方面的專長,尤其是在公司面臨安全威脅和批評者對其安全措施表示擔憂的背景下。今年4月,該公司因一名前研究員利奧波德·阿森納(Leopold Aschenbrenner)發送關於“重大安全事件”的備忘錄後將其解僱,他描述公司的安全措施“嚴重不足”,無法抵禦外部威脅。
此外,OpenAI的超級對齊(SuperAlign)團隊在兩名頂尖安全研究員辭職後突然解散。這個團隊原本致力於開發與人類利益相符的AI系統。其中一位離職研究員簡·萊克(Jan Leike)表示,他「長時間以來一直不認同OpenAI領導層的核心優先事項」。
首席科學家伊利亞·蘇茨克維爾(Ilya Sutskever)對離職原因保持沉默,內部人士透露,由於他在試圖罷免CEO薩姆·奧特曼(Sam Altman)行動中的角色,使他在公司的地位不穩。
即便以上種種還不足以引起關注,位於舊金山的OpenAI辦公室附近的居民和商家也表達了對公司越來越多的神秘行為的擔憂。一名鄰近寵物店的收銀員描述該辦公室帶有「神秘感」。
附近幾家商家的員工表示,大樓外常有類似便衣警衛的人出沒,但他們不會透露自己是為OpenAI工作。一位業內人士評論道:“不是一個討厭的鄰居,但他們的確很神秘。”