據外媒The Verge報導，歐盟(EU)發布了一個新的框架以規範歐盟27個成員國對人工智能(AI)的使用。該提案將需要數年時間才能成為法律並且將在此期間展開大量的微調和修訂，但它仍是迄今為止全球最雄心勃勃的AI法規。

這些規定涵蓋了廣泛的應用領域，從自動駕駛汽車軟件到審查求職者的算法。這些規定出台之際正值世界各國都在艱難應對AI帶來的道德後果。與EU的數據隱私法(GDPR)類似，該法賦予歐盟對違反其規定的公司處以高達其全球收入6%的罰款的能力–不過這種懲罰極為罕見。

歐盟委員瑪格麗特·維斯特格在新聞發布會上說道：“這是該委員會具有里程碑意義的提議。這是我們有史以來第一個關於人工智能的法律框架。今天，我們的目標是讓歐洲在安全、可信和以人為中心的人工智能發展方面達到世界一流水平。當然，還有它的使用。”

民權組織對該提議的某些方面持謹慎態度。其中最重要的部分是在整個歐盟禁止4種特定的AI用例。這些禁令旨在保護公民免受侵犯其權利的應用的侵害，但批評人士表示，一些禁令措辭過於模糊，這使得其仍無法真正阻止傷害。

其中一項禁令是禁止“出於執法目的在公共空間使用實時遠程生物識別系統”，其中包括面部識別。不過該規定還補充稱，這一禁令有許多例外，包括允許警方使用此類系統找到任何可判處至少三年徒刑的犯罪行為的“肇事者或嫌疑人”。在這些案件中使用面部識別等技術需要得到司法或類似機構的批准，但這仍將給執法部門提供了一個極其廣泛的空間，這使得他們可以隨時部署人工智能監控。

“有太多的例外，它們是相當武斷的，”德國Green MEP Alexandra Geese 在談到這項規定時告訴The Verge，“我不認為說’我們不需要生物特徵識別’，然後就不斷地給予例外情況有什麼意義。”

數字權利組織EDRi的高級政策顧問Sarah Chander同意這一觀點，並表示該提案只是提供了一種基本權利保護的表象。Chander告訴The Verge，徹底禁止大規模生物識別監控是維護民主的唯一途徑。

在早些時候洩露的提案中，該法確實禁止了AI進行大規模監控，但這顯然被淡化了。就像Geese告訴The Verge的那樣：“看起來委員會說，’看，我們想要禁止這種東西，’然後成員國的安全當局、內政部長們介入，說’不可能’。”

禁令只提到“實時”生物識別，這顯然也構成了一個重大漏洞。這似乎表明，在捕獲目標圖像後使用面部識別軟件是被允許的。這將為歐洲警察使用有爭議的人工智能Clearview掃清道路。

其他被禁的AI應用包括使用該技術創建社會信用評分、對人們造成身體或生理傷害以及利用潛意識暗示操縱人們的行為。“我們完全禁止它們是因為我們認為它們是不可接受的，”維斯塔格在新聞發布會上談到這些用例時說道。

所有其他AI應用則都被分為三類分層風險。最底層包括常見、低風險的應用如垃圾郵件過濾器，對這些應用程序的監管可能根本不會改變。然後是“有限風險”的使用案例，如聊天機器人用於購買門票或查找信息，這些也都需要更多的監管。除此之外，還有一些高風險的AI應用，它們指的是那些影響人們生活物質方面的應用，如用於評估某人的信用評分或他們是否能獲得貸款的算法以及控制自動駕駛汽車和醫療設備等關鍵機械的AI工具。

維斯塔格在發布會上表示：“這些AI系統將受到五項嚴格義務的約束，因為它們可能會對我們的生活產生巨大影響。”這些要求包括強制使用“高質量”的培訓數據以避免偏見，對每個系統實施“人為監督”以及創建詳細的文檔向監管機構和用戶解釋軟件如何工作。

另一個值得注意的方面是跟人類互動的AI系統如聊天機器人和AI生成內容如深度造假的強制性透明度義務。維斯塔格指出：“我們的目標是讓用戶清楚地知道，我們是在跟機器互動。”

除了這些新規定，所有被列為高風險的AI系統也必須在一個新的全歐盟數據庫中編入索引。Access Now歐洲政策分析師Daniel Leufer告訴The Verge，這是對該提議的意外補充，同時也是受歡迎的。“這是一個很好的衡量方法，因為我們所面臨的問題之一就是不知道系統何時在使用。例如，對於ClearView AI，我們依靠調查性新聞和洩密來查明是否有人在使用它。數據庫將提供關於正在使用的系統的基本透明度……讓我們做好我們的工作。”

數字版權組織則表示，除了涉及生物識別的漏洞之外還存在其他問題。例如原本希望禁止使用AI自動識別性別和性取向的禁令卻沒有出台，而用於預測性警務的算法–經常被發現受到種族偏見的影響–卻將不需要面強有力的監管。

“這些（AI應用）被認為是高風險的，但在執行方面是自我評估，”Chander說道，“這使得那些從開發這些系統中獲利的公司可以決定這些系統是否符合法律。這是令人震驚的。”

儘管存在這些反對意見，但許多人將認為，歐盟是在履行一個承諾，即建立一條AI政策的“第三條道路”。正如維斯塔格在新聞發布會上指出的那樣，歐盟希望在AI的公平和道德應用方面脫穎而出，而這一提議仍朝著符合這些價值觀的監管邁出的最大一步。

“我有點懷疑，”Geese說道，“但我很高興歐盟正在努力成為全球標準的製定者。”