OpenAI正在成立一個”獨立”的安全委員會有權阻止其模型的發布
根據OpenAI 的一篇部落格文章,OpenAI正在將其安全和安保委員會轉變成一個獨立的”董事會監督委員會”,該委員會有權因安全問題推遲模型的發布。該委員會在最近對OpenAI 的”安全和安保相關流程和保障措施”進行了為期90 天的審查後,提出了成立獨立委員會的建議。
該委員會由Zico Kolter擔任主席,成員包括Adam D’Angelo、Paul Nakasone 和Nicole Seligman。 OpenAI 表示,該委員會將”聽取公司領導層關於主要模型發布的安全評估簡報,並將與全體董事會一起對模型發布進行監督,包括有權推遲發布,直到安全問題得到解決。OpenAI 的全體董事會也將”定期聽取”有關”安全和安保事項”的簡報。
OpenAI 安全委員會的成員同時也是公司董事會的成員,因此目前還不清楚該委員會的實際獨立性如何,也不清楚這種獨立性是如何建構的。 (執行長山姆-奧特曼(Sam Altman)曾是該委員會成員,但現在不再擔任該職位。
透過建立獨立的安全委員會,OpenAI似乎正在採取與Meta的監督委員會(Oversight Board)有些類似的做法,後者負責審查Meta的一些內容政策決定,並做出Meta必須遵守的裁決。監督委員會的成員都不是Meta的董事會成員。
OpenAI 安全和安保委員會的審查也有助於”行業合作和資訊共享的更多機會,以推進人工智慧產業的安全」。該公司還表示,它將尋找”更多的方式來分享和解釋我們的安全工作”以及”更多的機會來對我們的系統進行獨立測試”。