谷歌Ethical AI人工智慧倫理研究小組前負責人瑪格麗特·米切爾（Martaret Mitchell）將加入人工智慧創業公司Hugging Face，開發工具確保演算法的公平性。 今年2月，米切爾因為一篇共同撰寫的批評論文而被谷歌解僱。

Hugging Face維護一個代碼庫，用戶可以通過這個代碼庫分享人工智慧模型並展開合作。 這是個開源平臺，已經被5000多家組織使用，包括谷歌、Facebook和微軟。 米切爾計劃從10月份開始，首先開發一套工具，確保用於訓練人工智慧演算法的數據集不存在偏見。 目前，用來訓練模型進行預測或決策數據集往往由於原始數據的不完整而在某個人群中表現不佳，例如女性、少數族裔和老年人。

米切爾和Hugging Face此前已經有合作關係。 為了確保人工智慧模型的公平性，Hugging Face此前已建議工程師和科學家在發佈專案后，使用米切爾在谷歌開發的Model Cards工具進行評估，分析優缺點。 Hugging Face聯合創始人及CEO克萊門特·德蘭格（Clement Delangue）表示，在發佈至Hugging Face的2萬個專案中，有約1/4使用了Model Cards工具。

米切爾在一次採訪中表示，對於用軟體評估人工智慧系統，”應該有非常嚴肅和積極的工作去做”。 “這對我來說是個很酷的機會，可以説明模型開發者更好地理解，他們正在開發模型的危害和風險”。

在從谷歌離職后，米切爾表示，她希望在一家規模較小的公司工作，從而可以從一開始就將人工智慧倫理納入在考慮範圍內。 她說，Hugging Face”已經建立了很多基本的倫理價值觀”，”很明顯，我不需要強行插手或改造類似倫理流程之類的東西”。

谷歌Ethical AI研究團隊此前經歷了動蕩。 去年，谷歌解僱了該團隊的另一名聯合負責人蒂姆尼特·格布魯（Timnit Gebru），原因是她拒絕撤回與米切爾及他人合著的一篇論文。 這篇論文涉及對谷歌技術的批評。 在格布魯退出后，作為團隊負責人的米切爾開始對谷歌及其管理層展開激烈的批評，包括谷歌未能認真對待外界對其人工智慧產品的擔憂，以及格布魯遭到了不公的待遇。 在人工智慧研究領域，格布魯是為數不多的知名黑人女性之一。 谷歌則表示，米切爾違反了公司的行為準則和資訊安全政策。

谷歌的員工對於公司處理此事的方式感到憤怒。 今年早些時候，對十多名在職員工和前員工，以及人工智慧學術研究人員的採訪顯示，由於處理騷擾、種族主義和性別歧視的方式，谷歌在人工智慧領域的工作在過去兩年多的時間里一直備受爭議。

Hugging Face的工具部分免費，部分收費。 目前該公司有300多家付費客戶，其中包括英特爾和高通。 雖然Hugging Face的50多名員工中也有幾名其他的人工智慧倫理專家，但CEO德蘭格希望所有員工都能往這個方向努力。

他說：「我們不想只是建立輔助性質的人工智慧倫理團隊，而是讓這件事成為公司的核心，並確保深入至每個人的工作中。 米切爾不會組建一個包含幾名成員，只是偶爾提供諮詢建議的團隊。 ”