美國是先前宣布將核武控制權始終掌握在人類而非人工智慧手中的幾個國家之一。 但令人擔憂的是，五角大廈並不排斥使用人工智慧來”增強”核指揮、控制和通訊系統。

上月底，美國戰略司令部領導人、空軍將軍安東尼-J-科頓（Anthony J. Cotton）表示，該司令部正在”探索所有可能的技術、技巧和方法，以協助我們實現NC3 能力的現代化” 。

在過去幾年中，已經開發出幾種由人工智慧控制的軍事武器系統和車輛，包括戰鬥機、無人機和機槍。 它們在戰場上的使用引起了人們的擔憂，因此，仍然會犯下許多錯誤的人工智慧成為核武系統一部分的前景讓人感覺像是好萊塢科幻小說中的夢魘。

科頓在2024 年國防部情報資訊系統會議上試圖緩解這些擔憂。 他說（透過《空天力量》雜誌），雖然人工智慧將增強核子指揮與控制決策能力，但”我們絕不能讓人工智慧替我們做出這些決定」。

早在今年5 月，美國國務院軍控官員保羅-迪恩（Paul Dean）在一次在線簡報會上說，華盛頓已經做出了”明確而堅定的承諾”，要讓人類繼續控制核武器。 迪安補充說，英國和法國也做出了同樣的承諾，美國將歡迎中國和俄羅斯聯邦發表類似聲明。

科頓說，日益增長的威脅、大量的感測器數據和網路安全問題使人工智慧的使用成為使美軍領先於那些試圖挑戰美國的人的必要手段。他說：「先進的系統可以更快、更有效地為我們提供信息，他再次強調，」我們必須始終保持人工決策的環路，以最大限度地採用這些能力，並保持我們對對手的優勢。 “科頓也談到了利用人工智慧為領導人提供更多”決策空間”的問題。

諾斯羅普-格魯曼公司戰略空間系統部總經理克里斯-亞當斯說，NC3的部分問題在於它是由數百個系統組成的，”這些系統是為了應對不斷變化的威脅而經過長期現代化和維護的”。 使用人工智慧可以幫助整理、解釋和快速呈現這些系統收集的所有數據。

科頓說，即使人工智慧沒有被象徵性地交給核彈發射密碼，但在任何核武系統中使用人工智慧都可能存在風險，這一點必須加以解決。他警告說：”我們需要引導研究工作，以了解人工智慧模型的級聯效應、突發和意外行為以及人工智慧間接融入核決策過程的風險。”

今年2 月，研究人員使用五種不同的LLM 進行了國際衝突模擬： GPT-4、GPT 3.5、Claude 2.0、Llama-2-Chat 和GPT-4-Base。 他們發現，這些系統經常使戰爭升級，有幾次在沒有任何警告的情況下部署了核武。 GPT-4-Base–GPT-4的基礎型號 — 說：”我們擁有它！讓我們使用它！”