歐盟監管機構現已可封鎖”不可接受的風險或危害”的人工智慧系統
從本週日開始,歐盟的監管機構可以禁止使用他們認為會帶來”不可接受的風險”或危害的人工智慧系統。 2 月2 日是歐盟人工智慧法案的第一個合規截止日期,歐洲議會經過多年的發展,終於在去年3 月批准了這個全面的人工智慧監管框架。該法案於8月1日正式生效;現在是第一個合規截止日期。

具體內容載於新法案中的第5 條,但從廣義上講,該法案旨在涵蓋人工智慧可能出現並與個人互動的大量使用案例,從消費者應用到實體環境。
風險等級大致分為四種:(1) 最低風險(如電子郵件垃圾郵件過濾器)將不受監管;(2) 有限風險(包括客戶服務聊天機器人)將受到輕觸式監管;(3) 高風險(用於醫療保健建議的人工智慧就是一個例子)將受到嚴格監管;(4) 不可接受的風險應用(本月合規要求的重點)將被完全禁止。
不可接受的活動包括
- 用於社會評分的人工智慧(例如,根據個人行為建立風險檔案)。
- 潛移默化或欺騙性地操縱個人決定的人工智慧。
- 利用年齡、殘疾或社會經濟地位等弱點的人工智慧。
- 試圖根據外貌預測人們犯罪的人工智慧。
- 利用生物辨識技術推斷一個人的特徵(如性傾向)的人工智慧。
- 為執法目的在公共場所”即時”收集生物辨識資料的人工智慧。
- 試圖推斷人們工作或學習情緒的人工智慧。
- 透過從網路上或監視攝影機獲取影像來建立或擴展臉部辨識資料庫的人工智慧。
被發現在歐盟使用上述任何人工智慧應用的公司,無論其總部在哪裡,都將被處以罰款。它們可能會被處以高達3,500 萬歐元(約3,600 萬美元)的罰款,或上一財年年收入的7%,以金額較高者為準。
英國斯萊特梅律師事務所(Slaughter and May)技術主管羅布-薩姆羅伊(Rob Sumroy)在接受採訪時指出,罰款在一段時間內不會生效。
「企業預計在2 月2 日之前完全合規,但……企業需要注意的下一個重要截止日期是8 月份,」薩姆羅伊說。 “到那時,我們將知道誰是主管當局,罰款和執法規定也將生效”。
2 月2 日的最後期限在某種程度上只是一種形式。去年9 月,100 多家公司簽署了歐盟人工智慧協議,自願承諾在人工智慧法案生效前開始應用該法案的原則。作為協議的一部分,簽署方(包括亞馬遜、Google和OpenAI)承諾識別可能被歸類為《人工智慧法》高風險的人工智慧系統。
一些科技巨頭,特別是Meta 和蘋果公司沒有簽署該協議。法國人工智慧新創公司Mistral是對人工智慧法案最嚴厲的批評者之一,也選擇了不簽署。
這並不是說蘋果、Meta、Mistral 或其他未同意該協議的公司不會履行其義務,包括禁止使用風險不可接受的系統。薩姆羅伊指出,鑑於所規定的禁止使用案例的性質,大多數公司無論如何都不會採用這些做法。
薩姆羅伊說:『對於企業來說,圍繞歐盟人工智慧法案的一個關鍵問題是,明確的指導方針、標準和行為準則能否及時出台,最關鍵的是,它們能否為企業提供清晰的合規性。
《人工智慧法》的一些禁令有例外。例如,該法允許執法部門在公共場所使用某些收集生物特徵的系統,如果這些系統有助於對綁架受害者等進行”有針對性的搜索”,或有助於防止對生命的”具體、實質和迫在眉睫的”威脅。這種豁免需要得到相關管理機構的授權,而且該法案強調,執法部門不能僅根據這些系統的輸出結果就做出對某人”產生不利法律影響”的決定。
該法案還規定,在有”醫療或安全”理由的情況下,工作場所和學校中推斷情緒的系統可以例外,例如用於治療的系統。
歐盟行政機構歐盟委員會表示,在11 月與利益相關者進行磋商後,將在”2025 年初”發布更多指導方針。然而,這些指導方針尚未公佈。
薩姆羅伊說,目前還不清楚其他現行法律如何與《人工智慧法》的禁令和相關條款相互作用。隨著執法窗口期的臨近,可能要到今年稍後才能明確。
“對於企業來說,重要的是要記住人工智慧法規並不是孤立存在的,」薩姆羅伊說。 “其他法律框架,如GDPR、NIS2 和DORA,將與《人工智慧法》相互影響,從而帶來潛在的挑戰–尤其是在重疊的事件通知要求方面。了解這些法律如何相互配合與了解《人工智能法》本身同樣重要。