針對有色人種美一零售商秘密部署人臉識別系統達8年
路透社公佈的一項調查顯示,美國第三大連鎖藥店Rite Aid在全美200家商店中秘密部署人臉識別系統。該公司在接受路透社採訪時表示,他們使用該技術已超過8年,直到最近才停止。
(原標題:美一零售商秘密部署人臉識別系統達8年,重點針對有色人種)
資料圖
Rite Aid是美國東海岸最大的連鎖藥店之一,總部位於賓夕法尼亞州,在美國開設有大約2500家商店。該連鎖藥店出售處方藥以及保健藥品、化妝用品、家庭日用品等多種商品。
大多部署於有色人種社區
路透社表示,Rite Aid最初辯護稱該公司使用人臉識別技術的目的是防止盜竊和暴力犯罪,不涉及種族歧視。然而,調查顯示並非如此。報導提到,“在黑人或拉丁裔居民等有色人種佔比最大的社區,路透社發現商店裡部署人臉識別系統的可能性是其他社區的三倍以上。”
設有人臉識別功能的相機很容易辨認,它們通常懸掛在商店入口附近和化妝品過道的天花板上。大多數長半英尺,呈矩形,標有其型號“iHD23”或帶有供應商首字母“DC”的序列號。
路透社報導稱,這些相機將進入商店的顧客的人臉圖像與Rite Aid先前了解到的可能從事過犯罪活動的人的人臉圖像進行匹配,若匹配成功則會將警報發送到安全員的手機上。相關人員在確認匹配準確後,將要求該顧客離開商店。
Rite Aid拒絕透露在哪些商店部署這些設有人臉識別功能的相機,但路透社在2019年10月至2020年7月的調查中發現,紐約和洛杉磯的75家Rite Aid商店中,有33家商店部署有這種相機。雖然Rite Aid表示,他們會告知顧客,在進入商店時有相機對他們的面部進行掃描並識別。但是調查發現,至少三分之一的商店並未設置相關標識。
在路透社向該公司發送調查結果後,Rite Aid發表聲明表示已關閉所有設有人臉識別功能的相機。“這一決定部分基於更大範圍的行業對話,”Rite Aid表示,“鑑於該技術的實用性越來越不確定,其他大型科技公司似乎正在縮減或重新考慮在人臉識別方面的投入。”
美國科技媒體The Verge報導稱,在人工智能研究人員和立法者看來,該事件中格外值得關注的是人臉識別技術的秘密出售和使用。
此前,Clearview AI等公司被發現為大量執法機構和私營公司提供人臉識別數據庫和搜索工具,對公民隱私構成威脅。然而通過此次事件,人們發現,像Rite Aid這樣普通的零售連鎖店也可能在秘密使用人臉識別技術。
多家零售商試點
近年來深受財務虧損困擾的Rite Aid並不是唯一採用或嘗試人臉識別技術的零售商。
據美國媒體CNBC報導,2018年,部分美國零售商成了一個旨在測試反犯罪技術的聯盟——零售防損研究委員會(Loss Prevention Research Council),將人臉識別技術視作“有發展前途的新工具”。
委員會主任Read Hayes在接受路透社採訪時表示,“有幾家零售商已決定使用人臉識別技術。我們需要利用技術來增加銷量,減少損失。”
美國第二大零售商Home Depot向路透社表示,他們在至少一家商店測試了人臉識別能否減少入店行竊,但已在2020年停止實驗。此外,CNBC報導顯示,截至2019年初,美國知名家裝產品零售公司Menards在至少10個地點試用了人臉識別系統。沃爾瑪也在少數商店試用了該系統。
Rite Aid負責資產保護的前副總裁Bob Oberosler稱,使用人臉識別技術來辨別有商店盜竊前科的人,對員工的危險性較小。
部分城市與企業叫停人臉識別
人臉識別技術目前存在缺陷,在識別黑人時錯誤率更高。過去幾年來,美國執法部門和私營公司對人臉識別不受管制的使用愈發關注。
2019年5月,舊金山通過人臉識別禁用法令,禁止城市工作人員購買和使用人臉識別技術,成為全球首個禁止人臉識別的城市。隨後,奧克蘭和薩默維爾市也通過人臉識別禁令。
舊金山在一項關於監視技術的行政法規——《停止秘密監視條例》中,針對人臉識別技術特別指出,“人臉識別技術危害公民權利和公民自由的傾向大大超過了其聲稱的好處,這項技術將加劇種族不平等,並威脅到我們不受政府長期監控的生活能力”。
弗洛伊德事件後,人臉識別使用爭議再次引發討論,美國多家科技公司公開宣布放棄這項技術。亞馬遜和微軟均表示,他們將暫停與執法部門在人臉識別上的合作,直到國會通過規範該技術銷售和使用的法律。IBM則表示,將不再投資或開發該技術。
“技術可以提高透明度,幫助警察保護社區,但絕不能放大歧視與種族不平等。”IBM首席執行官克里希納在給美國國會議員的公開信中這樣講到。