OpenAI任命資深人工智慧教授Zico Kolter為董事會成員
OpenAI 宣布卡內基美隆大學Zico Kolter教授被任命為董事會成員。 Kolter 也將加入董事會的安全與保障委員會該委員會負責為所有OpenAI 專案的關鍵安全決策提出建議。
「我很高興宣布加入OpenAI 董事會。」卡內基美隆大學電腦學院機器學習部門負責人Kolter 表示,「我期待分享我在人工智慧安全性和穩健性方面的觀點和專業知識,以幫助指導OpenAI所做的出色工作。
Kolter 的工作主要集中在人工智慧安全、對齊和機器學習分類器的穩健性。他的研究和專業知識涵蓋新的深度網路架構、理解資料對模型影響的創新方法以及評估AI 模型穩健性的自動化方法,這使他成為OpenAI 治理的寶貴技術總監。
OpenAI 董事會主席Bret Taylor 表示:Zico 在人工智慧安全性和穩健性方面增加了深厚的技術理解和視角,這將幫助我們確保通用人工智慧造福全人類。
Kolter 是CMU電腦科學系12 年來的關鍵人物、軟體和社會系統部、機器人研究所、CyLab 安全與隱私研究所以及工程學院電機與電腦工程系 2010 年,他在史丹佛大學獲得電腦科學博士學位,隨後於2010 年至2012 年在麻省理工學院獲得博士後獎學金。
在他的職業生涯中,他為機器學習領域做出了重大貢獻,在神經資訊處理系統會議(NeurIPS)、國際機器學習會議(ICML) 和國際人工智慧與統計會議(AISTATS) 等著名會議上撰寫了許多獲獎論文。
Kolter 的研究包括開發第一種創建具有保證穩健性的深度學習模型的方法。他也開創了使用神經網路層中的經典優化將硬約束嵌入AI 模型的技術。
最近,在2023 年,他的團隊開發了創新方法用於自動評估大型語言模型的安全性,展示了透過自動優化技術繞過現有模型保護措施的潛力。
除了學術追求之外,Kolter 在其整個職業生涯中一直與業界密切合作,曾擔任C3.ai 的首席數據科學家,目前擔任博世的首席專家和Gray Swan 的首席技術顧問,Gray Swan 是一家專注於人工智慧安全和安保的新創公司。