CloudFlare推出Firewall for AI 特別為人工智慧模式研發的防火牆
知名網路服務供應商CloudFlare 今天宣布推出Firewall for AI,這並不是基於AI 技術開發的傳統防火牆應用,而是專為AI 開發的防火牆。這個AI 防火牆的主要客戶是企業,也就是針對那些部署AI 模式的企業,在部署之前提供一個保護層,如果終端使用者輸入有問題的內容那麼可能會被防火牆直接攔截。
本質上這個AI 防火牆也是個WAF (網頁應用防火牆),使用者輸入的提示詞API 請求會預先經過WAF 掃描和分析,只有安全的請求才會傳送給AI 模型。
CloudFlare 也針對AI 進行了專門的開發和策略調整,用於攔截潛在的漏洞利用、非法利用和AI 模型的濫用問題,例如提示詞注入、模型拒絕服務(MDoS)、敏感資訊外洩等,AI 防火牆可以提供保護模式用來攔截這類常見的針對AI 模型的攻擊。
這裡額外提下MDoS 即模型拒絕服務,這與DDoS (分散式拒絕服務) 本質上是類似的,DDoS 是耗盡目標伺服器的資源,MDoS 則是透過提示詞來耗盡AI 模型伺服器的資源,使其不能提供服務。
CloudFlare 的AI 防火牆會透過速率限制來控制各個對話請求的速率,進而降低MDoS 的風險、減少企業業務中斷的風險。