安全人工智慧聯盟（CoSAI）是一個新的行業機構，今天在阿斯彭安全論壇上宣布成立。 CoSAI 的創始首要贊助商包括Google、IBM、英特爾、微軟、英偉達和PayPal。亞馬遜、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI 和Wiz 也是創始贊助商。

這項開源計畫旨在透過開源方法、標準化框架和工具提供指導，幫助開發人員創建安全設計的人工智慧系統。 CoSAI 將特別關注人工智慧系統的安全開發、整合、部署和運行，降低模型盜竊、資料中毒、提示注入、規模濫用和推理攻擊等風險。

與其他開源社區計畫類似，CoSAI 將成立一個計畫理事會來推進和管理其整體技術議程，並成立一個由學術界和產業界人工智慧專家組成的技術指導委員會來監督其各個工作流程。

協調委員會的初期工作將著重於以下方面：

• 人工智慧系統的軟體供應鏈安全：加強組成和出處跟踪，確保人工智慧應用的安全。
• 為不斷變化的網路安全環境做好防禦準備：應對人工智慧和經典系統的投資和整合挑戰。
• 人工智慧安全治理：為人工智慧安全制定最佳實踐和風險評估框架。

CoSAI 理事會聯合主席、Google公司的David LaBianca 就CoSAI 的成立發表了以下看法。

CoSAI 的成立源於將人工智慧安全整合和部署所必需的知識和進步民主化的必要性。在OASIS Open 的幫助下，我們期待在領先企業、專家和學術界之間繼續這項工作和合作。

CoSAI 的使命是創建一種開源的人工智慧安全方法，這是在快速發展的人工智慧產業中建立信任和促進負責任的開發的關鍵一步。 CoSAI 致力於解決目前安全實踐分散的問題，並提供明確的標準化指導原則，從而使開發人員和組織能夠創建本質上安全的人工智慧系統。

了解更多：CoSAI