AI巨頭“自控”條例承諾確保產品安全拜登放話必須警惕AI威脅
包括亞馬遜、谷歌、微軟、Meta、OpenAI在內的七家公司共同承諾,發布AI系統前進行內外部測試,向全行業和政府及社會分享AI風險的信息,用水印等機制幫助識別AI生成內容,鼓勵第三方發現安全漏洞,報告不當使用和偏見等社會風險,優先研究AI的社會風險,用先進的AI系統解決嚴重的社會問題。拜登稱,承諾只是第一步,將採取行政行動,並同國會合作出台針對AI的法規。
![](https://i0.wp.com/static.cnbetacdn.com/thumb/article/2020/0317/4d19c27e50f305b.jpg?w=640&ssl=1)
在白宮“指示”下,美國人工智能(AI)巨頭“自我管控”的條例浮出水面,他們承諾要盡量降低AI技術帶來的風險。
美東時間7 月21日週五,白宮公佈,拜登政府得到了亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和OpenAI七家公司自願的承諾,管控AI帶來的風險。他們承諾,將幫助推動AI技術安全且透明地發展。
白宮稱,政府目前在指定一項總統行政令,尋求兩黨達成立法議案,幫助引導國內開展負責任的創新活動。
上述七家公司公佈的具體承諾內容如下:
- 在對公眾發布產品前,先確保產品安全。
企業承諾,在發布AI系統前,先進行內部和外部的安全測試;全行業共享有關管理AI風險的信息,也對政府、民間的社會和學術界分享這些信息。
- 打造AI系統時,將安全放在第一位。
企業承諾,投資針對網絡安全和內部人士威脅的防護措施,保護專有的和未發布的模型權重;推動第三方發現及報告企業AI系統的漏洞。
- 贏得公眾的信任。
企業承諾,推出強大的技術機制,確保用戶知道內容何時由AI生成,例如水印系統;公開報告企業AI系統的功能、局限性、適當和不當使用的領域,包括將覆蓋安全風險和社會風險,例如在公平和偏見方面的影響。
企業承諾,優先研究AI系統可能帶來的社會風險,包括避免有害的偏見和歧視,以及保護隱私;開發及部署先進的AI系統,幫助解決最嚴重的社會問題。
上述承諾內容和華爾街見聞周四提到的媒體披露草案內容大體一致。
發布承諾後,拜登週五表示,這些承諾是切實的,將幫助AI行業履行對國人的基本義務,開發安全、可靠和值得信賴的技術,造福社會。
拜登說,這些企業的承諾將立即實行,體現了安全、保障和信任這三個基本原則,但他們的承諾只是第一步,“我們必須對(AI的)威脅保持清醒和警惕。”
拜登承諾,要採取行政行動,同時與國會合作,出台針對AI的法規。他說,新興的技術需要一些新的法律、監管法規和監督。
白宮的幕僚長Jeff Zients同日稱,這是一個不斷變化的目標。不但必須執行和落實這些企業的承諾,還必須隨著技術的變革,釐清下一輪的承諾。