刪除「禁止用於軍事用途」條款後OpenAI正與美國軍方合作開發網路安全工具
在上週剛刪除「禁止用於軍事用途」條款後,人工智慧(AI)「領頭羊」OpenAI就宣布正在與五角大廈合作開展包括網路安全工具在內的多個項目,這與該新創公司早些時候禁止向軍方提供人工智慧的做法背道而馳。
OpenAI負責全球事務的副總裁Anna Makanju週二在達沃斯世界經濟論壇接受採訪時表示,該公司正在與美國國防部合作開發開源網路安全軟體工具,並已與美國政府就幫助防止退伍軍人自殺的方法進行了初步談判。
上週,該公司悄悄修改了“用戶政策”,拿掉了“禁止將公司AI用於軍事、戰爭用途”的限制,引發輿論。先前的條款明確表示,禁止將公司模型用於“造成物理傷害的高風險活動”,包括武器開發、軍事和戰爭等。
「軍事」一詞,極為明確地將美國國防部、美軍、中央情報局(CIA)等排除出了OpenAI的使用者範疇。
Makanju稱,這項決定是其更大範圍的政策更新的一部分,以適應ChatGPT及其其他工具的新用途。
她說:「因為我們以前基本上是全面禁止軍事使用,許多人認為這會禁止許多這樣的用例,人們認為這些用例與我們希望在世界上看到的非常一致。但OpenAI堅持禁止使用其技術開發武器、破壞財產或傷害人民。”
這項決定其實也不令人感到意外,畢竟國防用途更有利可圖。作為OpenAI最大的投資者,微軟公司也為美國軍隊和其他政府部門提供了幾個軟體合約。
OpenAI也表示,它正在加快其在選舉安全方面的工作,投入資源確保其生成式人工智慧工具不會被用來傳播政治虛假訊息。