人工智能網絡挑戰賽將與人工智能初創公司Anthropic和OpenAI以及微軟和Google合作，讓美國的參賽團隊利用人工智能來確保”重要軟件”（特別是關鍵基礎設施代碼）的最佳安全。Linux 基金會的開源安全基金會（OpenSSF）將擔任挑戰賽顧問，1850 萬美元的獎金將頒發給最優秀的參賽者。

DARPA 表示，它還將為最多七家希望參賽的小型企業提供每人100 萬美元的獎金。“我們希望創建能夠自動防禦任何類型軟件攻擊的系統，”DARPA 項目經理佩里-亞當斯（Perry Adams）在昨天的新聞發布會上對記者說，他是人工智能網絡挑戰賽的構想者。”最近在人工智能方面取得的成果，如果以負責任的方式加以利用，我認為在保護我們的代碼安全方面具有非凡的潛力。”亞當斯指出，關鍵軟件中越來越多地使用開源代碼。GitHub 最近的一項調查顯示，高達97% 的應用程序利用了開源代碼，90% 的公司正在以某種方式應用或使用開源代碼。開放源代碼的普及帶來了創新的爆炸式增長。但同時也為破壞性的新漏洞和漏洞利用打開了大門。Synopsys 公司2023 年的一項分析發現，84% 的代碼庫至少包含一個已知的開源漏洞，91% 的代碼庫擁有過時版本的開源組件。Sonatype 的一項研究發現，2022 年，供應鏈攻擊的數量同比增長了633%。去年，拜登-哈里斯政府發布了一項行政命令，以提高軟件供應鏈的安全性，並成立了一個網絡安全安全審查委員會，負責分析網絡攻擊，並就未來的保護措施提出建議。2022 年5 月，白宮聯合開源安全基金會和Linux 基金會，呼籲在兩年內提供1.5 億美元資金，以解決突出的開源安全問題。但隨著人工智能網絡挑戰賽的啟動，拜登政府顯然認為人工智能在網絡防禦中可以發揮更大的作用。亞當斯說：”人工智能網絡挑戰賽提供了一個機會，讓我們探索當網絡安全和人工智能領域的專家能夠獲得一套前所未有的跨公司綜合資源時，會有哪些可能。如果我們取得成功，我希望看到人工智能網絡挑戰賽不僅能在這一領域產生下一代網絡安全工具，還能展示如何通過在這裡捍衛人工智能的關鍵基礎來利用人工智能改善社會。”雖然關於人工智能協助網絡攻擊的潛力–例如通過生成惡意代碼–的文章已經寫了很多，但一些專家認為，人工智能的進步可以使安全專業人員更高效地執行安全任務，從而有助於加強組織的網絡防禦。根據Kroll 公司對全球商業領袖進行的一項調查，超過半數的商業領袖表示，他們正在最新的網絡安全工作中使用人工智能。參加人工智能網絡挑戰賽的團隊將參加2024 年春季的資格賽，得分最高的團隊（最多20 個）將受邀參加2024 年年度DEF CON 大會的半決賽。最多有5 個團隊將獲得200 萬美元的獎金，並繼續參加2025 年DEF CON 大會的決賽。最後一輪比賽的前三名將獲得額外獎勵，其中第一名將獲得400 萬美元獎金。所有獲勝者都會被要求開源他們的人工智能係統–但不是必須。人工智能網絡挑戰賽以白宮之前在今年的EF CON 上宣布的模型評估為基礎，該評估旨在確定類似OpenAI 的ChatGPT 的大型語言模型可被惡意利用的方式，如果運氣好的話，還能找到解決這些漏洞的方法。此外，該評估還將衡量這些模型如何與拜登-哈里斯政府的”人工智能權利法案”藍圖和美國國家標準與技術研究院的人工智能風險管理框架中最近概述的原則和實踐保持一致。