歐盟的《人工智慧法案》是全球首部涉及人工智慧監管的法案。9日，歐洲理事會發布新聞聲明證實了上述消息，並稱該法規草案旨在確保歐洲市場並在歐盟使用的人工智慧系統安全，並尊重基本權利和歐盟價值。同時，該提案也旨在刺激在歐洲的人工智慧投資和創新。

歐盟內部市場委員布雷東在社群媒體上表示：「歐盟成為第一個為人工智慧使用設立明確規則的地區。《人工智慧法案》不僅是一本規則手冊，也將成為歐盟新創公司和研究人員引領全球人工智慧競賽的助推器。”

按照目前臨時協議中揭露的內容，未來違反《人工智慧法案》的公司可能面臨高達其全球收入7%的罰款，具體取決於違規情況和違反規則的公司規模。

據悉，此次通過的臨時協議是為了確保在2024年5月歐洲議會選舉前能夠順利通過這項立法。一旦通過，也將需要兩年時間才能完全生效。

這部《人工智慧法案》會對人工智慧模型的開發、人工智慧新創企業造成何種影響？又將如何監管OpenAI的ChatGPT和Google的Bard等生成式人工智慧工具？

主要監管內容

根據歐洲理事會的解釋，此次法案的中心方法論是根據人工智慧對社會造成危害的能力，遵循「基於風險」（risk-based）的方法來監管人工智慧：風險越高，規則越嚴。

歐盟方面希望，作為全球首個此類立法提案，該法案可以像《一般資料保護規範》（GDPR）一樣為其他司法管轄區的人工智慧監管制定全球標準，從而在世界舞台上推廣歐洲的技術監管方式。

2021年4月開始，歐盟方面就醞釀對人工智慧產業的監管，提出《人工智慧法案》提案的談判授權草案，將嚴格禁止“對人類安全造成不可接受風險的人工智慧系統”，包括有目的地操縱技術、利用人性弱點或根據行為、社會地位和個人特徵等進行評估的系統等。不過，在醞釀過程中由於ChatGPT的“橫空出世”，歐盟方面對該法案提案進行了修改。

第一財經記者看到，相較於先前的提案，此次臨時協議的主要新內容包括：針對未來可能導致系統性風險的高影響力通用人工智慧模型以及高風險人工智慧系統的治理體系；一個經過修訂的管理體系，該體系在歐盟層級具有一定執行權；一份擴大了的禁止清單，但執法機構可以在遵守相關措施的同時，在公共場所使用遠端生物識別技術；以及在人工智慧系統投入在使用前，高風險人工智慧系統的部署者有義務接受基本權利影響評估，以便更好地保護公民相關權利。

同時，按照「風險越高，規則越嚴」的原則，該臨時協議規定，僅呈現出有限風險的人工智慧系統將受到非常輕微的透明度義務的約束，例如披露內容是人工智慧生成的，以便用戶可以就進一步使用作出明智的決定。各種高風險人工智慧系統將獲得授權，但要遵守一系列要求和義務才能進入歐盟市場。

不過，對於人工智慧的某些用途，歐盟方面認為，其風險是不可接受的，因此，這些系統將被歐盟禁止。

歐盟方面給出了詳細說明。例如，此次達成的臨時協議禁止認知行為操縱、從互聯網或閉路電視錄像中無目的地抓取面部圖像、在工作場所和教育機構中實施情緒識別、社會評分、用於推斷敏感數據的生物識別分類，以及一些針對個人的預測性警務案例等。

值得注意的是，臨時協議納入了對人工智慧基礎模型的限制，但對開源模型給予了廣泛的豁免。

開源模型是使用開發人員可以免費使用的程式碼開發的，可以根據自己的產品和工具進行修改。此舉可能有利於遊說反對該法律的歐洲開源人工智慧公司，包括法國的Mistral和德國的Aleph Alpha等。

然而，一些被歸類為具有「系統性風險」的專有模型將受到額外義務的約束，不過歐洲委員會沒有在聲明中具體說明什麼標準會觸發更嚴格要求。

立法跑贏美國

觀察家認為，歐洲此次製定法律進一步鞏固了在科技監管方面的地位。

該法案主要發起者之一、歐洲議會議員圖多拉奇（Dragos Tudorache）表示，自起草立法的早期階段以來，《人工智慧法案》的製定者就「仔細考慮」了對世界各國政府的影響。他說，他經常聽到其他立法者在開始起草自己的人工智慧法案時正在研究歐盟的做法。

“這項立法將代表許多其他司法管轄區的標準、模式。”他說，“這意味著我們在起草它時必須承擔額外的謹慎義務，因為它將對許多其他司法管轄區產生影響。”

事實上，在美國國會多年無所作為之後，歐盟的各項科技法案對美國矽谷公司產生了廣泛的影響。

譬如，歐洲的GDPR迫使微軟等一些公司徹底改革他們處理歐洲境外用戶資料的方式。然而，有人擔心歐盟經常制定在科技方面的法律，令在歐洲地區的合規措施成本高昂，阻礙了小型企業的發展。

同時，經過數月針對人工智慧技術的聽證會和論壇後，美國國會仍處於制定有關人工智慧的兩黨立法的早期階段。

有國際貿易法領域資深專家對第一財經記者表示，拜登政府上台之初就表示要“整頓”科技行業，結果“板子高高舉起輕輕落下”，第一任期都快結束了，既沒有真正反壟斷，也沒有搞規則監管立法，這也反映了拜登政府的一種態度。

在此情況之下，歐洲人工智慧界的擔憂更為強烈，有不少人士都發聲表示，新立法可能會阻礙技術創新，從而為人工智慧研究和開發已經更加先進的美國和英國帶來進一步優勢。

「有一些創新將不再有可能性，或在經濟上不再可行。」德國人工智慧發展促進中AppliedAI Initiative 董事總經理 Andreas Liebl）表示：「它（人工智慧法案）只會讓你在全球競爭中放慢腳步。”

此前，歐洲工商管理學院（INSAED）的決策科學和技術管理教授埃夫根尼奧（Theos Evgeniou）在接受第一財經記者採訪時表示，GDPR確實導緻小公司成本高昂。這些公司大多是歐洲科技公司。它最終幫助了美國的大公司。

「從某種意義上說，這與歐洲想要做的事情恰恰相反。」埃夫根尼奧說，但監管本身是一個不斷學習的過程，其目標不是為了監管而監管，監管和創新都是為了更好地造福世界。