OpenAI與國防公司Anduril達成合作為國家安全任務部署先進AI系統
OpenAI和Anduril週三宣佈建立合作夥伴關係,這使得這家國防科技公司可以為”國家安全任務”部署先進的人工智慧系統。這是人工智慧公司不僅撤銷將其產品用於軍事用途的禁令,而且與國防工業巨頭和美國國防部建立合作夥伴關係的更廣泛、更有爭議的趨勢的一部分。
上個月,Anthropic、 和國防承包商Palantir宣布與亞馬遜網路服務建立合作夥伴關係,運用Anthropic 的Claude 3 和3.5 系列模型”為美國情報和國防機構提供存取人工智慧的途徑”。 。今年秋天,Palantir 簽署了一份為期五年、金額高達1 億美元的新合同,以擴大美國軍方對其Maven 人工智慧戰爭計畫的訪問。
據一份新聞稿稱,週三宣布的OpenAI-Anduril合作夥伴關係將”專注於改善國家的反無人機系統(CUAS)及其實時檢測、評估和應對潛在致命空中威脅的能力”,該新聞稿還補充說,”Anduril和OpenAI將探索如何利用領先的人工智慧模型來快速綜合時間敏感數據,減輕人類操作員的負擔,並提高對態勢的感知能力。”
Anduril公司由帕爾默-盧基(Palmer Luckey)共同創辦,該公司沒有回答關於減輕人類操作員的負擔是否會減少人類參與高風險戰爭決策的問題。 Luckey 創辦了Oculus VR,並於2014 年將其出售給了Facebook。
OpenAI表示,它正在與Anduril合作,幫助人類操作員做出決策,」保護地面上的美國軍事人員免受無人機攻擊」。 該公司表示,它堅持其使命宣言中的政策,即禁止使用其人工智慧系統傷害他人。
1 月初,OpenAI 的政策頁面規定該公司不允許將其模型用於”極有可能造成人身傷害的活動”,例如武器開發或軍事和戰爭。 1 月中旬,OpenAI 刪除了對軍事的具體提及,但其政策仍規定用戶不得”使用我們的服務傷害自己或他人”,包括”開發或使用武器”。
這項消息是在科技公司為軍事用途開發技術引發多年爭議之後發布的,科技工作者–尤其是從事人工智慧工作的科技工作者–的公開擔憂凸顯了這一點。
在數千名Google員工抗議五角大廈利用Google人工智慧分析無人機監控錄影的計畫”Project Maven」之後,幾乎所有與軍方合約有關的科技巨頭的員工都表達了擔憂。
微軟員工抗議了一項價值4.8 億美元 的軍方合同,該合同將為士兵提供增強現實耳機;1500 多名亞馬遜和谷歌員工簽署了一封信以抗議一項價值12 億美元的多年期合同。根據這份合同,這兩家科技巨頭將提供雲端運算服務、人工智慧工具和資料中心。