人工智慧驅動的遠端監控技術，如面部識別，對隱私等基本權利和自由有巨大影響，但已經在歐洲的公共場合悄然使用。 為了尊重「隱私和人類尊嚴」，歐洲議會議員表示，歐盟立法者應通過一項永久禁令，禁止在公共場所對個人進行自動識別，並表示公民只有在涉嫌犯罪時才應受到監控。

議會還呼籲禁止使用私人面部識別資料庫，如美國創業公司Clearview創建的有爭議的人工智慧系統（歐洲的一些警察隊伍也已經在使用），並表示基於行為數據的預測性警務也應被取締。

歐洲議會議員還希望禁止社會評分系統，這些系統試圖根據公民的行為或個性來評定其可信度。

早在4月，歐盟行政部門提出了監管人工智慧技術的高風險使用的立法草案，其中包括禁止社交評分，並在原則上禁止在公共場合使用遠端生物識別監控。

然而，民間社會、歐洲數據保護委員會和歐洲數據保護監督員以及一些歐洲議會議員很快警告說，委員會的提案走得不夠遠。 整個議會現在已經明確表示也希望對基本權利有更強的保障。

在昨晚通過的一項決議中，歐洲議會以377：248投票贊成LIBE委員會關於刑法中的人工智慧的報告，議員們發出了一個強烈的信號，即在即將到來的歐盟機構之間的談判中，他們將接受哪些內容，以確定人工智慧法案的細節。

歐洲議會通過的決議原文如下：

關於遠端生物識別監控的相關段落呼籲委員會…… 通過立法和非立法手段，必要時通過侵權訴訟，禁止為執法目的處理生物識別數據，包括面部圖像，從而導致在公共場所進行大規模監控;進一步呼籲委員會停止資助可能導致在公共場所進行不加區分的大規模監控的生物識別研究或部署或方案。

該決議還瞄準了演算法偏見，呼籲以強大的法律權力監督，以防止人工智慧的歧視，特別是在執法和過境方面。 歐洲議會議員們同意，人類操作員必須始終做出最終決定，並表示被人工智慧系統監控的對象必須有機會獲得補救。

為了確保在使用基於人工智慧的識別系統時維護基本權利，歐洲議會議員指出，這些系統已被證明誤認少數族裔群體、LGBTI人群、老年人和婦女的比例較高。 他們還說，演算法應該透明、可追蹤並有充分的記錄，公共機構在可能的情況下使用開放源碼軟體，以提高透明度。

歐洲議會還特別針對一個有爭議的歐盟資助的研究項目：認為在分析面部表情的基礎上創建一個「智慧」測謊器的iBorderCtrl項目應該被終止。

報告員Petar Vitanov（S&D，BG）在一份聲明中評論說。 基本權利是無條件的。 我們有史以來第一次呼籲暫停為執法目的部署面部識別系統，因為該技術已被證明是無效的，並經常導致歧視性的結果。 我們明確反對基於人工智慧的預測性警務，以及任何導致大規模監控的生物識別數據的處理。 這對所有歐洲公民來說是一個巨大的勝利」。

議會的決議還呼籲禁止人工智慧協助司法裁決，這同樣是另一個極具爭議的領域，議員們認為自動化有可能鞏固和擴大刑事司法系統的系統性偏見。

全球人權慈善機構「公平審判」對投票表示歡迎–稱其為「技術時代基本權利和非歧視的里程碑式成果」。