據CNN報導，美國公民自由聯盟（ ACLU）已經向底特律警察局提出了行政投訴，該權益組織稱這是該國第一起已知的涉及人臉識別技術的錯誤逮捕事件。根據投訴，羅伯特-威廉姆斯（Robert Williams）在1月份的一個晚上，將車開進他位於密歇根州法明頓山家中的車道時，一輛警車突然駛來，將他擋在了車道上。

警員們跳下車，在威廉姆斯的妻子和孩子們在的注視下將其逮捕，並把他帶到了半小時外的底特律的一個拘留中心。在那裡，他在”擁擠而骯髒的牢房”中度過了30個小時。

底特律警方認為，威廉姆斯從當地的一家Shinola商店偷走了幾塊手錶。但據ACLU稱，事實證明警方是被電腦算法誤導了。底特律警察局在一份聲明中表示，人臉識別軟件是“一種用於生成線索的調查工具”，在逮捕前需要“額外的調查工作、確鑿的證據和合理的理由”。

外媒認為，這一事件暗示了人臉識別在警務工作中的迅速普及對普通美國人造成的個人傷害–以及這種技術對有色人種的錯誤識別的巨大潛力。人臉識別系統通常使用軟件將人臉圖像與數據庫中存儲的圖像進行匹配。該技術已被用於從音樂會到機場的各個地方，但越來越多地受到隱私和公民自由倡導者、技術專家和立法者對算法歧視的關注。

身為黑人的威廉姆斯現在已經成為這場運動的代言人。根據ACLU的投訴，底特律警方將一名黑人男子從Shinola商店偷竊手錶的視頻監控提供給密歇根州警方，警方通過人臉識別系統運行該視頻，並建議將威廉姆斯的照片作為潛在的匹配。密歇根州警方的發言人Shanon Banner將CNN關於威廉姆斯案件的問題轉給了底特律警方。

根據Banner的說法，密歇根州警方的政策是不使用人臉識別技術作為一種積極的身份識別方式。“它被認為只是一種調查線索，要求調查人員在做出任何最終決定之前繼續進行刑事調查，直到並包括逮捕，”她說。“所有的調查線索報告都會在報告的頂部寫上以下聲明。’本文件不是正面鑑定。它只是一個調查線索，並不是逮捕的可能原因。需要進一步調查，以形成可能的逮捕理由’。”

Banner沒有解釋據稱由一家名為DataWorks Plus的公司出售給州警察的軟件如何表明視頻中的男子是威廉姆斯。儘管如此，警方隨後向一名沒有目擊盜竊事件但看過視頻的Shinola保安展示了包括威廉姆斯在內的一排頭像。申訴稱，這名保安將威廉姆斯認定為嫌疑人。

威廉姆斯隨後被逮捕，不過他在接受審訊後被釋放，正如申訴中所說，”很明顯，他的被捕是基於錯誤的人臉識別”。

在美國公民自由聯盟製作的一段關於他經歷的視頻中，威廉姆斯說，審訊他的警員在看到照片與他的臉部不符後，”他們把照片留在桌子上，他們互相看了看，說了聲’oops’。”

“我從來沒有想過要向女兒們解釋爸爸為什麼會被逮捕，”威廉姆斯週三在《華盛頓郵報》的一篇專欄文章中寫道。“”如何向兩個小女孩解釋，電腦弄錯了，但警察還是聽進去了？”

ACLU對威廉姆斯經歷的投訴是在幾家大型科技公司宣布表示不會向警方出售人臉識別技術之後發生的。亞馬遜宣布暫停銷售其Rekognition軟件一年，而微軟則表示在聯邦法規出現之前，不會向警察部門出售其人臉識別技術。與此同時，IBM宣布完全禁止”通用”人臉識別，包括對該技術的研發。

目前還不知道全美到底有多少地方警察部門在使用人臉識別系統，也尚不清楚有哪些規則來規範它的部署方式和地點。目前還沒有關於其使用的聯邦立法，不過一些州已經頒布了相關法律。比如伊利諾伊州，該州要求公司在收集生物識別信息之前必須獲得客戶的同意。而包括波士頓和舊金山在內的一些城市已經禁止政府使用該技術。

ACLU表示，威廉姆斯希望底特律警察局通過投訴，向威廉姆斯及其家人公開道歉等。申訴還要求該部門提供與威廉姆斯被捕有關的所有記錄，並呼籲底特律警方停止使用人臉識別作為調查工具。

根據申訴，在警方使用的監控錄像中，真正的嫌疑人戴著一頂聖路易斯紅雀隊的帽子。“威廉姆斯先生是底特律地區的終身居民，他沒有這樣的帽子，也不是紅雀隊的球迷，”投訴說。“他甚至不是一個棒球迷。不過，他是黑人。”