被谷歌解僱的AI倫理專家宣佈成立AI研究所 防止AI傷害
據報導,在被谷歌解僱整整一年後,知名的人工智慧倫理專家蒂姆尼特·格布魯(Timnit Gebru)今日宣佈,將成立一個新的人工智慧(AI)研究所,致力於成為一家提供不同觀點、並防止傷害的獨立機構。
該AI研究所被稱為”Distributed AI Research”(分散式人工智慧研究,簡稱DAIR),已經獲得了福特汽車、MacArthur、Kapor Center、洛克菲勒(Rockefeller)和”開放社會”(Open Society)基金會的資助。
未來一年,該AI研究所計劃聘請5名研究人員。 格布魯在採訪中稱,該研究所的首位研究員雷塞特·塞法拉(Resetje Sefala)在南非工作,研究如何使用計算機視覺演算法和衛星圖像來追蹤”空間種族隔離”(某些地區的少數群體隔離)相關問題。
格布魯表示,投資人工智慧研究的兩個主要動機是,”如何讓一家大公司盡可能多地賺錢,以及”如何更有效地殺死更多的人”。 她說:「這就是我們當前籌集資金進行人工智慧研究的兩個基本目標。 那麼,是否還有其他選擇呢? 這就是我想要驗證的。 ”
而格布魯試圖在企業或軍事影響力之外,打造一個研究小組,通過關注全球視角和”代表性不足的群體”,來防止人工智慧系統的傷害。 隨著人工智慧系統的蓬勃發展,該領域已被大型公司所主導,這些公司可以訪問用於構建演算法的海量數據和計算能力。
格布魯和其他研究人員,以及一些活動人士認為,這一趨勢正使該領域變得更難進入,尤其是對於那些面臨人工智慧傷害風險的群體。 而這些公司往往忽視與偏見和負面結果相關的問題,或者讓那些直言不諱的人保持沉默。
格布魯的人工智慧研究所在一份聲明中稱:「人工智慧不是不可避免的,它的危害是可以預防的。 當它的研究和部署涵蓋不同的視角和深思熟慮的程式時,它可能就是有益的。 格布魯將擔任該研究所的執行董事。
去年,格布魯被谷歌解僱。 她自己稱,是因為一篇未發表的文章而被谷歌解僱。 據悉,格布魯的一篇批評大型人工智慧模型(包括谷歌開發的模型)的論文引發了爭議。 此外,格布魯還公開指責谷歌對待女性和黑人員工的方式。
兩個月後,谷歌又解僱了格布魯的同事瑪格麗特·米切爾(Margaret Mitchell)。 這引發了人們對研究人員是否可以自由開展獨立工作的質疑。
格布魯還希望她的團隊成為一種資源,為其他組織提供人工智慧專案方面的建議。 此外,她還計劃為受人工智慧影響的人群設立一個獎學金。