今日，全國網路安全標準化技術委員會發布《人工智慧安全治理框架》1.0版。《框架》提出了包容審慎、確保安全，風險導向、敏捷治理，技管結合、協同應對，開放合作、共治共享等人工智慧安全治理的原則。

針對模型演算法安全、資料安全和系統安全等內生安全風險及網路域、現實域、認知域、倫理域等應用安全風險，《框架》提出相應技術應對和綜合防治措施，以及人工智慧安全開發應用指引，為促進人工智慧健康發展和規範應用，提供了基礎性、框架性技術指南。

這也是目前各國、機構都在尋求規範的領域，因為近兩年AI技術發展迅速，目前已經深入到各方各面，如果沒有規範管理，在灰色地帶很容易產生一些風險。

今年早些時候，歐盟就批准了《人工智慧法案》，其中嚴格禁止「對人類安全造成不可接受風險的人工智慧系統」。

包括有目的地操縱技術、利用人性弱點或根據行為、社會地位和個人特徵等進行評估的系統等，也規定人工智慧公司要對演算法進行人為控制，提供技術文件，並建立相應的風險管理系統。