谷歌Ethical AI（AI 倫理）團隊的創始人Mitchell 在推特上發了一條簡短的聲明：“I am fired”，這與去年另一位女性研究員Timnit Gebru 的遭遇如出一轍，而這兩位女性正是谷歌Ethical AI 部門曾經的兩位聯合負責人。

去年年底，Gebru 發推表示自己被公司開除，她因一篇論文的發表與公司上層產生矛盾，被要求撤稿後，她在一篇內部郵件中表示了自己對公司種族偏見問題的不滿，隨後被解僱。

在從外界角度來看，似乎很難不將Mitchell 的解僱和Gebru 事件聯繫起來。

推特上的唇槍舌戰

這位Gebru 是谷歌AI 倫理部門的聯合負責人，也是谷歌內部極少數的黑人女研究員（根據該公司2020 年年度多樣性報告，Google 員工中有3.7％是黑人），同時她也是Black In AI 的聯合創始人，致力於黑人在算法領域的平權。

而谷歌方，Gebru 的上司Jeff Dean 站出來表示“論文未達到發表標準，是女方主動拿辭職要挾”。雙方各有說法，在推特上來來回回唇槍舌戰。

事件發生後，AI界大多都站在了Gebru這一邊。據BBC報導，超過4500名來自微軟、谷歌等大公司的科研人員在支持Gebru的公開信上簽了名，要求谷歌方進一步解釋開除Gebru的原因。今年1月，谷歌內部員工還成立了AIphabet工會，該工會向所有AIphabet員工開放，包括臨時工、供應商等，為少數群體利益發聲，並要求恢復Gebru的職位。

公司CEO Pichai 率先出來滅火，承諾將會進行進一步調查，以期能為這場轟轟烈烈的鬧劇劃上一個句號。今年2 月，Dean 也向解僱Gebru 和對其他女性員工造成的傷害致歉，谷歌還宣布了新的多元化政策，包括將DEI（多元、公正、包容）目標與副總裁以上級別員工的績效評估掛鉤。這似乎是進一步的滅火行為，但隨後Mitchell 就被解僱。

如今被開除的Mitchell 也是一位AI 道德專家，曾從事機器偏見，種族和性別多樣性以及用於圖像捕獲的語言模型方面的工作，她與Gebru 共同領導該公司的道德AI 團隊。同時值得注意的是，她也是那篇導火線論文的共同創作者。

Gebru 被炒魷魚後，Mitchell 多次在公共平台表示對谷歌的不滿。今年1 月份，她被限制了公司內部電子郵件訪問權限，就在被開除的幾小時前，Mitchell 還在推特上抨擊谷歌“一向疏遠黑人女性”。

谷歌方對於開除Mitchell 給出的回應是“在對這位經理的行為進行審查之後，我們確認存在多次違反我們的行為守則和安全政策的行為，其中包括洩露機密的業務敏感文件和其他員工的私人數據。”

算法偏見

回到導致Gebru 和Mitchell 均被解僱的最初，引起爭議的論文《隨機鸚鵡之險：語言模型會太大嗎？（On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?）》，它從環保和成本角度、種族和性別方面探討了大型語言模型（如BERT）帶來的高耗電等風險。同時Gebru 指出如果不加區分地使用現有數據訓練人工智能，會進一步加深AI 語言模型中對少數邊緣群體的偏見。

該論文的引言中寫道：“我們問是否已對與開發這些風險相關的潛在風險以及減輕這些風險的策略進行了足夠的思考。”

谷歌AI 在2017 年首先發明了Transformer 語言模型，2018 年，在此基礎上推出的BERT 語言模型在人工智能領域引起轟動，同時也廣泛運用到谷歌搜索引擎的訓練上，已經成為谷歌經濟收入的重要來源。

這篇論文是對谷歌目前最有利可圖的AI 研究提出的擔憂，而這種擔憂並不是空穴來風，AI 中涉及的倫理偏見已經不是第一次出現。

2015 年，谷歌相冊將兩個深膚色的人標記為“大猩猩”，谷歌公司當時保證“立即採取措施”，以防止再犯重複錯誤。不過隨後為了解決這一問題，谷歌直接從搜索結果中刪除了這一詞條的標籤。《連線》雜誌在谷歌相冊上測試了4 萬多張動物圖片，最終得出了這樣一個結論：谷歌不再將任何圖片標記為大猩猩、黑猩猩、猴子，即使就是這種動物的圖片也是如此。

而去年，最令人震驚的AI 偏見應該是PULSE 算法將奧巴馬識別為一位白人男性。這個由英偉達開發出的算法，使用一種叫“upscaling”的技術來處理視覺數據，把原始的低分辨率圖片生成為一個全新的高分辨率面部圖像。該算法的創建者解釋稱這種偏差可能繼承於訓練AI 的數據集，這些數據集中缺少有色人種的存在，在此基礎上訓練出的AI 將會默認使用白種人特徵。

在今年的疫情期間，谷歌AI 也出現了類似情況。

經非盈利研究和倡導組織AIgorithmWatch 證實，谷歌旗下計算機服務Google Vision Cloud 會將手持測溫計的深膚色人員圖像標記為“槍”，而相同條件下，淺膚色人員圖像則被標記為“電子設備”。究其原因，這與深膚色的人員圖像在數據訓練時在暴力場景出現的高頻率有關，隨後谷歌致歉並更新了算法，測溫計圖像中不再出現“槍支”標記。這種對於有色人種在數據訓練中的忽視，已經成為AI 偏見常出現的情況。

衝突中心的谷歌

AI 倫理問題產生的根源，是人類社會中存在著相同的偏見。

一直以來，矽谷科技公司向外界展示著它開放、平等的文化。早在2014 年，矽谷的33 家科技公司就共同簽訂了多元化承諾。然而除算法偏見，近幾年，微軟、亞馬遜、Uber 等公司卻頻頻爆出關於性別歧視、膚色偏見的道德醜聞，曾經的全球最佳雇主谷歌也難逃其中。

2018 年，據《紐約時報》報導，谷歌向因性騷擾傳聞離職的“安卓之父”Andy Rubin 支付了約9000 萬美元，並在過去10 年中保護了包括魯賓在內的三位被指控性行為不端的男性高管。

這引發了谷歌員工的強烈抗議，全球20 多個辦事處的20000 多名員工進行了歷史性的集體大罷工，走上街頭喊出“我們要透明度、追責和架構調整”的口號。隨後谷歌致歉，並承諾將會撤銷針對性不端行為的強制仲裁。

雖然近年來Google 內部不斷出現各種AI 相關的倫理討論時間，外界持續不斷地批評Google 在這些方面做得不夠好。但從另一個角度看，在AI 行業在全球快速發展的當下，也只有Google 內部爆出瞭如此大範圍的嚴肅討論，這恰恰是從Google 一直以來自由管理、直言不諱的文化中誕生的。

在Gebru 離職風波後，不只是Ethical AI 團隊，整個谷歌公司的氛圍都持續緊張。沸沸揚揚的爭議聲和谷歌內部多次抗議中，谷歌成立了矽谷的第一個大型工會AIphabet Workers Union，旨在讓員工自由發聲。

在今年，經過多撥討伐的Dean 向Gebru 事件致歉，並且任命了另一位黑人女性Mariian Croak 為Ethical AI 的主管，繼續向他匯報工作。Ethical AI 成立的初衷就是為了監控Google AI 的道德走向，為此，這個部門也是公司中多元化程度最高的一個部門，將那些在算法中那些最有可能受到偏見傷害的弱勢群體聚集到一起。

值得注意的是，AIphabet 工會並沒有在這件事後停下腳步。今年2 月11 日，AIphabet 工會向谷歌提出不公平勞動指控，這是該工會的第一個法律行動，與先前的公開信等行動不同，本次指控具備法律效力。

對於一個充滿黑箱和未知的技術，AI 值得人們探討的問題還有很多。Google 是第一家爆發激烈討論的公司，但它絕不會是最後一家。