谷歌AI業務DeepMind多年密謀脫離母公司 最終被打壓
據報導,英國人工智慧公司「深思」(DeepMind)隸屬於美國谷歌公司,然而外界所不知道的是,深思內部卻出現了一個神秘計劃,即和母公司谷歌分道揚鑣。 有段時間,深思員工把這個秘密計劃稱之為「西瓜」,後來,高管們把它稱為「馬里奧」。
根據熟悉上述計劃的9名前任和現任員工透露,深思公司擔心母公司谷歌有朝一日會濫用他們的技術,在過去多年中,深思的高管一直在保持公司和谷歌之間的距離。
因為涉及秘密,這些消息人士不願意披露身份。 他們表示,深思制定的計劃包括實現一個法律上獨立的地位,把本公司的業務和谷歌公司進行隔離。
一名前任員工表示,深思內部最大的一個問題,是他們認為把公司賣給了一個無法信賴的實體,自從公司變賣給谷歌之後,內部一直在質疑這個決定。
據報導,深思希望從谷歌公司分開的計劃在今年四月份無果而終。 深思和谷歌多年以來的談判,以及谷歌人工智慧業務最近的重組,使得外界質疑:這個搜索巨頭是否能夠掌控對於未來發展至關重要的人工智慧技術?
深思公司發言人在一份官方聲明中表示,自從收購之後,深思和谷歌以及母公司Alphabet進行了密切合作,這些合作是成功的,通過他們的説明,深思獲得的突破性研究成果已經改變了人工智慧領域,他們現在正在解決更重大的課題。
這位發言人也表示,在過去幾年時間里,深思也討論和探索在Alphabet集團內部的不同地位,以便能夠尋找到最佳模式來支援公司的研究任務。 讓深思感到欣慰的是,在不斷取得研究成果的同時,公司繼續保持了運營獨立性,並獲得母公司的全力支援。
文化衝突
2014年,谷歌宣布收購深思公司,這被認為是一次雙贏交易。 谷歌獲得了一家技術領先的人工智慧公司,而總部在英國倫敦的深思獲得了雄厚財力的支援,可以繼續研發替代人類各種工作的人工智慧(這一領域被稱為”通用人工智慧”)。
但隨後,兩家公司關係開始緊張。 深思員工遭遇了某種企業文化衝突。 在他們看來,深思員工首先是學術研究人員,他們不適應谷歌龐大業務所伴生的臃腫的企業官僚主義。
一些員工則擔心谷歌這樣一家科技巨頭控制深思的技術會帶來問題。 有一段時間,深思員工之間用加密聊天軟體進行溝通,因為他們擔心谷歌會監聽他們的通話。
據一位知情人士透露,後來,深思高管還發現了另外一個問題,即谷歌內部人工智慧研究團隊發表的論文,採用了酷似深思的基礎代碼,但是卻沒有任何引用標記。 這一事件讓深思首席執行官德米思·哈薩克薩賓斯(Demis Hassabis)十分不滿,隨後,深思公司開始更加嚴格的保護自己的代碼。
脫離計劃
2015年,谷歌架構進行重組,誕生了控股母公司Alphabet。 這次重組讓一些風險更大的創新項目獲得了更多自由。 根據一家權威科技媒體報導,此後,深思開始尋求在Alphabet內部一個獨立業務的全新地位,要有自己的財務報表。
當時在Alphabet內部,深思已經享受了很大程度的運營獨立性,不過他們還想獲得法律上的”自治地位”。 該公司很擔心將來如果自己的通用人工智慧技術研發成功,可能被遭到誤用。
兩位前任員工透露,在內部,員工們把獲取自治地位的秘密計劃稱之為”西瓜”。 但在後來,公司管理層把這個計劃稱之為「馬里奧」。。
一位瞭解深思和Alphabet談判的前任員工透露,深思管理層認為,他們的人工智慧技術太過於強大,不適合掌握在一家私營公司手中,這些技術應該隸屬於一個獨立的法律實體,能夠和母公司股東利益區隔。 深思認為,這樣的業務架構「對於整個社會都是更好的。 ”
2017年,深思公司員工在蘇格蘭的一個度假區集體放鬆。 兩位在場員工透露,深思高管當時對員工稱,公司計劃和谷歌分離。
三位消息人士稱,當時深思高管內部表示,要把公司發展成為一家”全球利益公司”,這表明,深思已經考慮到自己的人工智慧技術未來將會對整個世界產生巨大影響。
隨後,深思和Alphabet展開談判。 深思希望成為一家「擔保有限責任公司」,這是一種沒有股東的公司架構,一般被非盈利機構所使用。
消息人士透露,根據深思的設想,在新的架構下,Alphabet可以繼續給深思提供資金,並且獲得該公司人工智慧技術的獨家授權。 當時深思也對Alphabet提出了一個條件,那就是使用人工智慧技術不能越過某些道德紅線,比如不得把深思的技術應用到軍事武器或是監控方面。
提交給英國政府監管機構的文件顯示,2019年,深思註冊了一個新公司,名為”深思實驗室有限公司”,另外還註冊了一家新的控股公司。 兩位參與註冊過程的前任員工透露,這樣做的目的就是準備和谷歌分離。
一位消息人士透露,在過去幾年裡,深思和谷歌的談判頗為曲折,但是在2020年,談判獲得了新的動力。 據透露,2020年,深思的一個高級別小組開始和外部律師和谷歌召開會議,敲定兩家公司未來關係的細節,比如兩家公司是否共用代碼庫、內部績效考核指標,軟體成本等等。
道德憂慮
在收購交易前後,深思內部就考慮到了這一交易可能帶來的人工智慧道德問題。 在2014年收購交易結束之前,兩家公司簽署了一份協定——”(人工智慧)道德和安全性評估協定”,這一協定阻止谷歌完全控制深思的人工智慧技術。 這份協定中包括了這樣一項內容,即創建人工智慧道德委員會,監管各種研究專案。
一名深思前任員工透露,雙方曾經討論人工智慧道德委員會應該包括哪些委員,但是實際上,這個委員會可以說從未存在過、從未開會,也從來沒有解決任何人工智慧道德問題。 對於這個委員會,深思發言人拒絕發表評論。
消息人士透露,深思已經考慮了替代計劃,即將來和谷歌分開之後,將會設立一個獨立的人工智慧道德審核委員會。 這個委員會可以包括谷歌和深思高管,以及獨立第三方專家,其中深思還計劃邀請美國前總統奧巴馬加入委員會。
在公司章程中,深思也規定自己研發的人工智慧技術禁止用於武器和監控,另外,這些技術應該被用來造福人類社會。
2017年,深思創建了一個新部門,主要關注人工智慧道德研究,新部門包括內部員工和外部研究人員。 這個部門的使命就是為「真正有助於社會和負責任的人工智慧應用鋪平道路」。。
幾個月之後,媒體曝光了谷歌和美國五角大樓的技術合作,這一消息在谷歌內部引發了強烈不滿,員工們指責公司進入到了”戰爭業務”中。
深思一名前任員工透露,谷歌和美軍的合作協定在深思內部引發了「警報聲」。。 後來,谷歌發佈了有關人工智慧工作的一些指導原則,這些原則和深思已經確立的道德準則基本相似,這樣的”抄襲”又讓一些深思高管感到不快。
談判失敗
今年四月份,哈薩克斯在一次全員大會上告訴員工,從谷歌分離的談判已經結束。 深思將會繼續保持Alphabet旗下的現有地位,該公司未來的研究工作將受到”谷歌先進技術審核委員會”的管轄。 據悉,這個委員會包括深思兩名高管、谷歌人工智慧業務負責人傑夫·迪恩(Jeff Dean),以及谷歌負責法律事務的高級副總裁肯特·沃克(Kent Walker)。
雖然談判失敗,但是深思過去多年追求獨立的抗爭,引發了該公司在谷歌未來發展前景的隱憂。
此前,谷歌逼走了兩位人工智慧道德研究專家,這使得谷歌對於這一領域的擔當引發外界非議。 外界擔心人工智慧在谷歌內部是否還能夠保持獨立研究的地位。
“應用數據道德中心”的研究員阿裡·阿克哈提卜(Ali Alkhatib)表示,大型科技公司紛紛佈局人工智慧的研發,但是對這些研發的監管上,目前十分缺乏”公共責任感”。
對於谷歌來說,當初收購深思的交易已經開始有回報。 去年下半年,深思宣佈了一個技術突破,稱未來可以幫助科學家更好的瞭解微小蛋白質的行為模式,這有可能給製藥行業帶來一次顛覆。
對於深思的發展,掌門人哈薩克斯依然持有一個信念,那就是人工智慧技術不應該被某一家公司所控制。 六月份,在一個人工智慧技術論壇發言時,哈薩克斯建議成立一個人工智慧的全球性機構,該機構可以受聯合國領導,集中人工智慧領域的頂級專家。
哈薩克發言稱:「如果你通過一些榜樣來領導,這是更強大有效的,我希望深思公司能夠成為人工智慧行業的一個榜樣。 ”