谷歌增加敏感議題審查環節來加強對旗下科學家論文的控制
根據內部溝通和對其研究人員的採訪顯示,谷歌今年採取行動,通過啟動”敏感議題”審查來加強對其科學家論文的控制,並在至少三個案例中要求作者不要將其技術置於負面的角度。根據解釋該政策的內部網頁,谷歌的新審查程序要求研究人員在研究面孔和情感分析以及種族、性別或政治派別的分類等主題之前,諮詢其法律、政策和公共關係團隊。
谷歌表示,技術進步和外部環境日益複雜,正越來越多地導致看似無害的項目引發道德、聲譽、監管或法律問題。谷歌三名現任員工表示,該政策始於今年6月。
八名現任和前任員工表示,”敏感話題”程序在谷歌標準的論文審查基礎上增加了一輪審查,以防止出現洩露商業機密等情況。對於一些項目,谷歌官員在後期進行了乾預。據路透社(Reuters)的內部信件稱,谷歌一位高級經理在今年夏天出版前不久對一項內容推薦技術研究進行了評估,他告訴作者要非常小心,並且應該保持積極的基調。隨後一位研究人員給審稿人的信件顯示,作者更新了論文,刪除所有對谷歌產品的提及。
包括資深科學家瑪格麗特·米切爾在內的四位研究人員說,他們認為谷歌正在開始乾擾對潛在技術危害的重要研究。米切爾說:“如果我們根據自己專業知識研究合適的東西,而谷歌以不符合高質量同行評議的理由不允許我們發表這些東西,那麼我們就陷入了一個嚴重的審查情況。”
谷歌在其面向公眾的網站上聲明,其科學家擁有”實質性”的自由。本月,在科學家蒂姆尼特-蓋布魯(Timnit Gebru)突然離職後,谷歌與部分員工之間的緊張關係進入人們的視野,她與米切爾共同領導了一個12人的團隊,專注於人工智能軟件(AI)的倫理問題。Gebru表示,谷歌解僱她是因為她質疑了一項禁止發表研究的命令。這項研究聲稱模仿語音的人工智能可能對邊緣化人群不利。谷歌當時接受並加速了她的辭職。目前還無法確定蒂姆尼特-蓋布魯(Timnit Gebru)的論文是否經過了谷歌“敏感話題”審查。