Sam Altman離開OpenAI董事會下屬安全與安保委員會
OpenAI週一表示,執行長山姆-奧特曼(Sam Altman)將離開董事會下屬的安全和保障委員會,該委員會現在將完全由獨立董事會成員組成。批評者曾質疑,如果公司執行長也是委員會成員,那麼委員會能在多大程度上對公司的做法起到製衡作用。
OpenAI 表示,安全與保全委員會現在將由卡內基美隆大學機器學習系主任Zico Kolter 擔任主席。
其他成員包括Quora 執行長亞當-德安傑洛(Adam D’Angelo)、退休美國陸軍將軍、前美國國家安全局局長保羅-中曾根(Paul Nakasone)和前索尼公司總法律顧問妮可-塞利格曼(Nicole Seligman)。
該公司表示將向委員會簡要介紹主要模型產品,委員會和董事會全體成員有權推遲新模型的發布。
OpenAI 指出,新委員會審查了最近的o1模型也就是Strawberry的安全性,該模型在公司內部評估中被評為”中等風險”。
OpenAI 也表示,它正在努力採納委員會的建議,以提高透明度和與外部團體的合作,並在越來越多的產品團隊中統一其安全實踐。
OpenAI 在5 月成立了該委員會,此前有一系列員工離職,表達了對安全的擔憂。 6 月,OpenAI 又將中曾根加入委員會。