美國人為什麼不待見人臉識別技術?
2019 年5 月,舊金山市對人臉識別技術發出了禁令,禁止該技術在政府機關和執法機關中使用,從而成為全球首個對人臉識別技術發出禁令的城市。不過,美國社會對人臉識別技術的反對不止於舊金山。近期,加州奧克蘭市正在考慮出台與舊金山類似的法律,同時,馬薩諸塞州也正考慮在該州中止人臉識別軟件,直到這項技術有所提高。
那麼問題來了:美國越來越多的城市在禁止或暫停這項技術的使用,究竟是為何?
有缺陷的人臉識別技術
客觀上來說,美國的人臉識別技術一直走在科技前沿,並且在商用層面早有動作。亞馬遜早在2016年就推出了人臉識別軟件Rekognition,此外,類似的產品還有谷歌云Vision API、IBM Watson Visual Recognition和微軟的Face API。
儘管如此,目前的人臉識別技術還不能夠有百分百的準確性。2018 年,紐約時報英文網站發表一篇文章就指出,如今非常熱門的AI 應用人臉識別,針對不同種族的準確率差異巨大。其中,針對黑人女性的錯誤率高達21%-35%,而針對白人男性的錯誤率則低於1%——這在美國可以說是非常政治不正確的。
另外一個值得一提的烏龍事件是:巨頭公司亞馬遜2016 年推出圖像識別AI 系統“Rekognition” 曾將28 名美國國會議員識別成了罪犯,讓美國社會一片嘩然,也對人臉識別技術充滿了質疑。
中國科學院自動化研究所的張曉波博士曾表示,照明、姿勢、裝飾等都會對機器人臉識別產生影響,對於非合作情況下的人臉圖像採集,遮擋問題非常嚴重。
特別是在監控環境中,被監控對象可能佩戴眼鏡,帽子等配件,使得捕獲的人臉圖像可能不完整,影響後續的特徵提取和識別,甚至導致人臉檢測算法無效。
雖然人臉識別算法的大小隨著人臉數據庫大小的增加而減小,但如何在大規模應用環境中維持或提高人臉識別算法的識別率也是一個非常重要的問題。
你的臉到底屬於誰?
在安全性方面,人臉識別技術也在美國面臨著廣泛的質疑。
比如說,由於人臉識別的信息存儲仍然基於計算機可識別的語言,即數字或特定代碼。而隨著這些數據價值的提高,面臨黑客攻擊的風險也會越來越高。
也就是說,人面識別技術背後的支撐是數據,如果這些隱私數據被竊取,你的臉可能不只屬於自己,可能屬於任何人。
同時,正如前面提到的,人臉識別技術對於不同種族的人有不同的準確率,無論是論文作者的研究,還是廠商的實驗都明確發現女性深色人種識別誤差率更高。種族歧視作為美國社會中的一個非常敏感的話題,如果對人臉識別技術的相關法律還未能夠完善,那麼,人臉識別技術依然會處於爭議之中。
不過,更大的爭議在於,美國社會群體對於“被監控” 本身的反感和憂慮。
此前,亞馬遜以及其他很多科技公司也與美國警方保持合作,將面部識別技術應用於視頻監控和警察穿戴的相機鏡頭。包括俄勒岡州在內的眾多美國州立政府已經成為Rekognition 的用戶。
亞馬遜的人臉識別軟件Rekognition 能夠實時地辨別、分析和跟踪。它能夠在幾秒鐘將它收集的信息和數據庫裡成千上萬個圖像進行比較。執法機關已經將這個技術應用於尋找失踪人口和識別恐怖襲擊中的嫌疑人中。
然而,美國公民自由聯盟(American Civil Liberties Union,ACLU)曾“上書”政府:亞馬遜應該停止向美國政府提供強大且“危險”的人臉識別系統Rekognition。
此聯盟“上書”後不久,有將近20 家亞馬遜的股東機構向Jeff Bezos發出信件,對亞馬遜Rekognition 被應用於執法部門所帶來的問題和影響進行擔憂。
這些股東在信中寫到:
亞馬遜股東擔心這樣的政府監視設施技術,不僅可能對全國客戶和其他利益相關者構成隱私威脅,而且可能提高我們公司面臨的實質性風險,為我們公司的股價帶來負面影響,並為股東增加金融風險。
股東們還擔心,Rekognition 可能違反女性、有色人種、移民以及其他邊緣化群體的民權,這些人特別容易成為警方關注的目標。
不僅亞馬遜股東認為Rekognition 會對隱私造成侵犯,美國民眾也有類似的看法。將人臉識別技術應用到前端視頻監控攝像機上,可能會打破隱私及實用性之間的平衡。
假設美國警方有若干台這樣的安防攝像機,同時擁有可疑人員的“黑名單”照片庫,那麼其他任何人如果與這些可疑人員有一些相像,一旦進入警察的安防攝像機的鏡頭之內,都有可能受到警務人員的盤問。而大多數美國人不希望生活在那樣的世界裡。
不僅亞馬遜的Rekognition 陷於爭議之中,美國的海關和邊境保護計劃同樣因為應用人臉識別技術而頗受爭議。
這項計劃通過其云端面部生物識別系統對旅客進行匹配。這種信息匹配服務旨在取代人工檢票,將旅途中需要出示紙質證件的流程改為自動識別。
這個面部識別系統旨在快捷。並且,美國海關和邊境保護局(US Customs and Border Protection,以下簡稱CBP)認為,在對比護照照片和人臉時,面部識別要比人類更加準確。在40 天的時間裡,該系統已在華盛頓杜勒斯機場協助發現了三名冒名頂替者。
但這項技術可以在你不知情的情況下使用,面部識別系統收集的不可變的數據,也就是面部信息。這引起了人們的擔憂。如果某人的信息一直被保存,那麼,系統便可以一直追查這個人的行踪。
而且,CBP 未向公眾採納意見,就已在機場實行這一技術,突破了美國法律的界限。
面對爭議,CBP 強調,這個項目的存在不是為了監視,它的實施也符合法律規定。美國公民可以選擇退出該計劃,他們的照片不會被長期保留。不僅如此,CBP 還發了聲明,證明有許多法律允許它收集生物特徵信息。
但隱私法專家指出,雖然CBP 列舉的法律適用於非公民,但它們都沒有明確提到涉及公民的情況。而且,喬治城大學隱私與技術法律中心2017 年發表的一份報告稱:在過去14 年中可以明顯的看出,美國公民在該計劃的相關法律中一直處於缺席狀態。
CBP 尚且面臨質疑,更不必說是其他美國政府部門了。
一個社會群體對於技術的接納和融入,並不一定都是一帆風順的;尤其是對於美國這樣注重政治正確和隱私至上的國家來說,人臉識別技術的應用更是面臨越來越嚴重的尷尬局面。
可以想見的是,人臉識別技術在美國也許會面臨越來越多的反對聲浪,但這究竟是一件好事與否,尚未可知。