CloudFlare推出Firewall for AI 特別為人工智慧模式研發的防火牆
知名網路服務供應商CloudFlare 今天宣布推出Firewall for AI,這並不是基於AI 技術開發的傳統防火牆應用,而是專為AI 開發的防火牆。這個AI 防火牆的主要客戶是企業,也就是針對那些部署AI 模式的企業,在部署之前提供一個保護層,如果終端使用者輸入有問題的內容那麼可能會被防火牆直接攔截。
![Cloudflare-announces-Firewall-for-AI-OG.png](https://i0.wp.com/static.cnbetacdn.com/article/2024/0306/562389ce56ec26f.png?w=640&ssl=1)
本質上這個AI 防火牆也是個WAF (網頁應用防火牆),使用者輸入的提示詞API 請求會預先經過WAF 掃描和分析,只有安全的請求才會傳送給AI 模型。
CloudFlare 也針對AI 進行了專門的開發和策略調整,用於攔截潛在的漏洞利用、非法利用和AI 模型的濫用問題,例如提示詞注入、模型拒絕服務(MDoS)、敏感資訊外洩等,AI 防火牆可以提供保護模式用來攔截這類常見的針對AI 模型的攻擊。
![image1-1.png](https://i0.wp.com/static.cnbetacdn.com/article/2024/0306/b26a0b7bf13183c.png?w=640&ssl=1)
這裡額外提下MDoS 即模型拒絕服務,這與DDoS (分散式拒絕服務) 本質上是類似的,DDoS 是耗盡目標伺服器的資源,MDoS 則是透過提示詞來耗盡AI 模型伺服器的資源,使其不能提供服務。
CloudFlare 的AI 防火牆會透過速率限制來控制各個對話請求的速率,進而降低MDoS 的風險、減少企業業務中斷的風險。