照片“偽裝術”愚弄面部識別
芝加哥大學SAND實驗室發布了保護個人隱私的系統Fawkes,源代碼採用BSD 3-Clause許可證託管在GitHub上,相關論文 (pdf)將發表在下個月舉行的USENIX Security 2020在線會議上。Fawkes是運行在本地計算機上的算法和軟件工具,可以讓用戶偽裝照片,限制其被用於面部識別。
Fawkes 能對照片進行處理,對其進行像素級別的細微改變,而這種改變人眼無法識別出。研究人員將這種方法稱為“image cloaking”。用戶可以正常使用偽裝後的照片,在社交網絡中進行分享,可以發送給朋友。但是當有人收集這些公開的人臉照片去構建面部識別模型,偽裝後的照片將會構建出高度扭曲的人臉。這種偽裝效應難以探測,不會在模型訓練中顯示錯誤。如果人臉識別系統試圖利用這個模型來識別你,它將會失敗。