芝加哥大學開發新工具保護用戶免遭面部識別系統濫用
據外媒報導,人臉識別正迅速成為人們隱私的最大威脅之一,許多初創公司希望圍繞這項技術創建商業服務,並與此同時利用用戶們上傳的大量照片。雖然針對這個問題有著一個解決方案,但它的有效性最終將取決於大型平台的採用。
人臉識別技術發展極為迅速,這使得它的使用已經成為許多消費者真正關心的問題,他們認為這是對他們生活的又一次侵犯。上週,有消息透露,連鎖藥店Rite Aid一直在使用面部識別技術以便更容易地識別入店行竊者並對低收入人群或有色人種集中的地區進行了歧視。
佩戴口罩雖然可以擺脫目前使用的一些最先進的面部識別技術,但這種情況很快也會改變,因為新的解決方案將使用公開的口罩自拍數據集來對人工智能進行再訓練。儘管由於監管機構和隱私團體的密切關注,一些像IBM這樣的公司退出了人臉識別領域,但人們仍有理由認為需要新的立法和某種形式的保護以防止那些濫用這項新技術的公司。
以Clearview AI為例,它從Twitter、Facebook、谷歌和YouTube上抓取人們的照片以此來創建一個面部識別數據庫。然而在使用這些服務的時候,該公司沒有徵求任何用戶的許可,據說它的安全措施很糟糕,這就是它最近被起訴的原因。
為此,芝加哥大學的研究人員提出了一種解決方案,即開發一種軟件工具,讓人們有機會保護自己上傳到網上的圖片以免遭到未經允許的使用。

這個被稱為Fawkes的工具利用了機器學習模型必須輸入大量圖像才能以任何程度的精確度識別個體特定特徵這個特點。Fawkes會對用戶的圖像進行像素級的微小改變,而這人眼是無法察覺的,但卻能有效地“掩蓋”人們的臉,這樣機器學習模型就無法發揮它們的魔力。據了解,這套工具甚至騙過了Facebook、微軟、亞馬遜和Megvii的人臉識別系統。
然而,Fawkes還算不上完美–該工具無法對使用未經修改的圖像構建的模型做任何事情,例如Clearview AI等公司已經使用的圖像以及來自執法機構的圖像。儘管隱形圖像在經過壓縮後仍毫無用處,但福克斯的成功將取決於它能否在上傳照片到網上的人們中得到廣泛使用。
有趣的是,Clearview AI的CEO Hoan Ton-That告訴《紐約時報》,Fawkes似乎並不能對抗其公司開發的面部識別系統。另外他還指出,考慮到互聯網上可獲得的未經修改的圖片數量之多,“幾乎可以肯定,要完善像Fawkes這樣的技術並大規模部署它已經太遲了。”
截止到目前,Fawkes已經在該項目的網站上發布並被下載超10萬次。
負責協調Fawkes開發的Ben Zhao教授表示,像Clearview AI這樣的服務距離為互聯網上的每個人提供一套全面的圖像還有很長的路要走。Zhao還指出,Fawkes是基於中毒攻擊的,這是為了逐漸破壞面部識別模型,隨著時間的推移隱形圖像的百分比會不斷增加。
趙的團隊希望看到Clearview AI這樣的公司被逐出市場,但其成員承認這將會是一場貓捉老鼠的遊戲,第三方總能找到短期的方法來應用Fawkes這樣的工具。