前谷歌AI倫理專家Timnit Gebru遭東家解僱:論文或為導火索
據《麻省理工技術評論》報導,前谷歌AI倫理學家Timnit Gebru與人合著的一篇論文對谷歌提出了一些可能棘手的問題,比如AI語言模型是否太大以及科技公司在降低潛在風險方面做得是否足夠。該論文還對大型語言模型的環境成本和固有偏見提出了質疑。
谷歌的AI團隊在2018年創建了一個語言模型–BERT,它非常成功,公司還將它融入到了其搜索引擎中。搜索是谷歌利潤豐厚的業務,僅在今年第三季度,它就為公司帶來了263億美元的收入。今年10月,谷歌CEO桑達爾·皮查伊在與投資者的電話會議上表示:“今年包括本季度都顯示了谷歌的創始產品–搜索–對人們的寶貴價值。”
Gebru和她的團隊在一場研究會議上提交了題為《On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?》的論文。然而在當地時間週三的時候,她在Twitter上發文稱,經過內部審查後,她被要求撤回這份報告或將谷歌員工的名字從文章中刪除。她表示,自己向谷歌詢問了將她名字從論文中刪除的條件,如果不能滿足這些條件那麼他們之間將會是“最後一次約會”。Gebru表示,她隨後從谷歌那裡收到了通知其他們“接受她的辭職,立即生效”的電子郵件。
谷歌AI負責人Jeff Dean在給員工的電子郵件中指出,Timnit Gebru“沒有達到我們的出版標準”。他寫道,Gebru繼續在谷歌工作的條件之一是,公司要告訴她誰看過這份報導以及他們的具體反饋,但其拒絕這麼做,“Timnit寫道,如果我們沒有滿足這些要求她就會離開谷歌並在一個截止日期前工作。我們接受並尊重她從谷歌辭職的決定。”
Dean在信中寫道,這篇論文“忽視了太多相關研究”,但該論文的合著者、華盛頓大學計算語言學教授Emily M. Bender對此提出了異議。Bender告訴《麻省理工技術評論》,這篇有6位合著者的論文“是那種沒有任何個人或甚至是一對作者能夠完成的工作”,另外她還指出他們的論文擁有128個引用書目。
Gebru因其在算法偏差方面的工作而聞名–尤其是在面部識別技術方面。2018年,她跟Joy Buolamwini合寫了一篇顯示的論文,其背後原因是用於訓練算法的數據集絕大多數都是白人。
Gebru在周四接受Wired採訪時表示,她覺得自己受到了審查。“你不會有讓公司一直開心也不會指出任何問題的文件。這跟成為研究人員的意義背道而馳。”
自Gebru被解僱的消息公開後,包括1500多名谷歌員工在內的數千名支持者簽署了一封抗議書。請願者要求Dean和其他參與審查格Gebru博士論文的人跟Ethical AI團隊會面以此來就該論文被領導層單方面拒絕的過程進行說明。
對此,谷歌於週六並未回复記者置評請求。