AI項目被谷歌撂挑子美國防部憤而狂挖矽谷AI人才

AI項目被谷歌撂挑子美國防部憤而狂挖矽谷AI人才

據連線雜誌報導,美國軍方正竭力在人工智能(AI)領域取得進展。美國國防部的高級官員相信,AI將是確保美國在未來戰爭中取得勝利的關鍵。但國防部的內部文件和對高級官員的採訪都表明,國防部因為被一家科技巨頭拋棄而陷入步履蹣跚的窘境。為擺脫這種困境,美國國防部開始了一場爭奪AI人才的大戰。

2018年6月份,谷歌宣布退出美國國防部備受爭議的Project Maven項目,Project Maven是美國軍方首次探索在戰爭中大規模使用AI的項目。該項目使用谷歌AI軟件提高分析效率,幫助情報分析師從視頻片段中識別出軍事目標。10月份,數千名谷歌員工簽署了一份請願書,呼籲公司終止在該項目上與美國軍方的合作。

據五名熟悉有關Project Maven內部討論的消息人士透露,谷歌的撤出讓美國國防部內部感到挫敗和沮喪,甚至是憤怒。

6月28日,分發給大約50名美國國防部官員的內部備忘錄稱:“我們無意中捲入了一場關於戰略敘述的爭論。”這份備忘錄指出,美國國防部因谷歌的撤出措手不及,該機構目前正面臨AI專家日益疏遠它們的窘境,而這些人對軍方AI發展計劃至關重要。備忘錄中警告稱:“如果我們不能贏得關鍵人物的支持,我們就無法有效地與對手競爭。”

Project Maven項目2017年的成本只有7000萬美元左右,這是美國國防部當年6000億美元海量預算中非常少的部分。但谷歌的聲明表明,該部門仍在努力應對更大的公共關係和科學挑戰。到目前為止,谷歌的回應是試圖為其AI研發工作塑造全新的公眾形象,並尋求組建由科技公司高管組成的顧問團對國防部的AI政策進行審查。

美國國防部感到焦慮的原因是顯而易見的:它希望未來能把AI集成到武器中,這一願望已經得到了數十億美元承諾的支持,以及數十億美元的技術研發資金支持。

AI最終會在戰爭中扮演什麼樣的角色還不清楚。許多AI武器將不涉及機器算法的決策,但它們正在朝這方面努力。美國國防部去年8月的一份戰略文件提到:“支撐無人系統的技術將使和部署自主系統成為可能,這些系統可以獨立選擇目標,並以致命武力發動攻擊。”

美國國防部的官員們表示,開發AI不同於開發其他軍事技術。儘管軍方很容易就能從大型國防承包商那裡獲得最前沿的戰鬥機和炸彈,但AI和機器學習創新的核心卻屬於矽谷的非國防科技巨頭。官員們擔心,如果沒有他們的幫助,美國軍方可能會輸掉一場不斷升級的全球軍備競賽。在這場競賽中,AI將扮演越來越重要的角色。

現任美國國防部下屬的國防數字服務(DDS)負責人克里斯·林奇(Chris Lynch)在採訪中說:“如果決定不參與Project Maven,實際上也未參與討論AI或機器學習是否將被用於軍事行動。”他說,AI正在走向戰爭,所以問題在於,哪些美國技術專家會去設計它?

林奇表示,AI技術太重要了,即使需要依靠不那麼專業的專家,該機構也會繼續推進這方面的工作。但林奇補充說:“如果沒有行業內最優秀人才的幫助,我們就會僱傭那些能力不算最強的人,首先開發能力或許遠不如我們預期的產品。”

谷歌不太可能很快轉變態度。在宣布該公司將不再尋求續簽Project Maven合同不到一個星期之後,谷歌發布了新的AI指導原則,特別說明該公司不會使用AI“用於幫助開發武器或其他用於直接傷害人類的產品”。自那以來,許多美國國防官員一直抱怨谷歌不愛國,並指責該公司仍在尋求與中國政府合作。中國是美國在AI技術領域的最大競爭對手。

據知情人士透露,Project Maven旨在簡化情報分析師的工作,方法是在無人機和其他平台的視頻片段中標註目標類型,幫助分析師收集信息,並縮小對潛在目標的關注範圍。但這些算法並沒有選擇目標,也沒有下達攻擊指令。長期以來,那些擔心先進計算技術與新形式致命暴力相結合的人,對這種算法總是有種膽戰心驚的感覺。

谷歌的許多人還是以令人擔憂的眼光看待這個項目。一位熟悉內部討論的前谷歌員工表示:“他們立即想到了無人機,然後他們又想到了機器學習和自動目標識別,我認為這個項目開發的AI很快就會升級,讓它們能夠進行有針對性地殺戮,發動有針對性的戰爭。”

谷歌只是美國國防部尋求招募的科技巨頭之一,其目的是將AI注入現代戰爭中。其他目標還包括微軟和亞馬遜。據現任和前任美國國防部官員說,在谷歌2018年6月份宣布退出的消息後,十幾家大型防務公司接洽了國防部官員,提出願意接手這一工作。但矽谷活動人士也表示,軍方不能輕易忽視科技工作者的道德疑慮。

上述那位前谷歌員工表示:“那些對股東負責的人、那些希望獲得國防部價值數百萬美元合同的人,與那些不得不研發這些東西、但又覺得自己在道德上與這些東西格格不入的普通員工之間,存在一種分歧。”為了彌合這一鴻溝,緩和AI工程師的尖銳反對情緒,美國國防部迄今採取了兩項舉措。

第一項措施於6月底正式啟動,目的是建立一個聯合AI中心,旨在監督和管理軍方的所有AI工作。這個中心將由陸軍中將傑克·沙納漢(Jack Shanahan)負責,他的最後一項主要任務是執行Project Maven。這是個政治上非常精明的決定,它的第一個重大舉措是找出一種利用AI幫助軍隊在自然災害中組織搜索和救援的方法。

美國國防部AI戰略的首席設計師之一布倫丹·邁考德(Brendan McCord)表示:“我們的目標是拯救生命,我們軍隊的根本作用和使命是維持和平。這是為了阻止戰爭和保護我們的國家。這是為了提高全球穩定,也是為了最終保護啟蒙運動產生的一系列價值觀。”

第二項舉措是要求由一個由技術專家組成的諮詢小組——國防創新委員會,對AI道德進行新的審查。該委員會成員包括前谷歌首席執行官埃里克·施密特(Eric Schmidt)和職業社交LinkedIn聯合創始人里德·霍夫曼(Reid Hoffman)。

這個委員會旨在為軍方使用AI制定指導原則,目前由約書亞·馬爾庫塞(Joshua Marcuse)管理。馬爾庫塞曾擔任美國國防部長創新問題顧問,現在他是該委員會的執行董事。該顧問團將與AI專家舉行公開會議,為期約9個月,同時美國國防部內部的一個小組也在討論類似問題。然後,防創新委員會將向國防部長詹姆斯·馬蒂斯(James Mattis)提出關於AI是否應該被植入武器計劃的建議。馬爾庫塞在採訪中說:“這必須是真正意義上的審查,願意對我們將要做的和不願做的事情施加些限制,明確界限所在。”

為了確保這場辯論的公正性,馬爾庫塞表示,國防創新委員會正在尋找對軍方在AI領域中所扮演角色持批評態度的人士。他說:“他們有各種各樣的擔憂,包括有效性、合法性等問題,以及國防部將如何應用這些技術,因為在某些情況下,我們有合法權力侵犯人們的隱私,我們有法律權威實施暴力,我們有合法權力發動戰爭。”

美國國防部的官員們表示,解決這些擔憂至關重要,因為美國在管理AI人才方面與其他國家存在差異。馬爾庫塞說:“這些人必須選擇與我們合作,所以我們需要向他們提供有意義的、可核實的承諾,那就是他們有真正的機會與我們共同工作,讓他們能夠相信自己是好人,AI技術被用於好的方面。”

儘管馬爾庫塞願意討論未來對AI採用的潛在限制,但他認為國防創新委員會不會試圖改變美國國防部依賴AI自動武器的政策。奧巴馬政府於2012年制定了這一政策。特朗普政府在2017年5月對其進行了小幅度技術修改,但並未阻止軍方在任何武器系統中使用AI。

美國國防部多位官員表示,該機構的政策要求指揮官對任何植入AI的武器系統擁有“適當程度的人類判斷控制”,不過這一說法尚未得到進一步解釋。然而,這項政策確實要求,在計算機被編程啟動致命行動之前,包含它的武器系統必須經過美國國防部三位高級官員的特別審查。到目前為止,還沒有進行過這類特別審查。

據一位熟悉細節的前國防部官員透露,2016年底,即奧巴馬政府任期即將結束之際,美國國防部重新審視了2012年的政策,並在一份機密報告中決定,不需要進行重大改革。這位前官員說:“沒有任何東西被阻止,沒有人想要更新指令。”

儘管如此,特朗普政府在內部討論過,讓軍方的武器工程師更清楚地知道,該政策並不禁止在武器系統中加入自主權。特朗普政府擔心軍方的武器工程師不願將AI應用到他們的設計中。矽谷對Project Maven的爭論至少暫時阻止了這種討論,促使美國國防部領導人首先努力贏得國防創新委員會的支持。

但無論如何,美國國防部打算將更多的AI集成到其武器中。馬爾庫塞說:“我們不會對一項可能徹底改變戰爭模式的新技術視而不見,這對美國民眾、對我們派往戰場的軍人以及依賴我們的盟友來說都不公平。”

點閱: 1

發表迴響

這個網站採用 Akismet 服務減少垃圾留言。進一步瞭解 Akismet 如何處理網站訪客的留言資料