中國人臉識別第一案來得太晚了
從一臉懵懂,到竊竊私語,再到公開討伐,人臉識別引發的數據隱私問題,隨著這項技術幾年來的大規模下沉,最終到達了一個需要法律深度介入的十字路口。與一個月前被罵上熱搜的人臉識別獨角獸曠視不同,今天再次登上微博熱搜的“人臉識別”,不再是大家單純過一把嘴癮,而是因為有人真的付諸了法律行動。
一位大學教授,以“保護隱私”為由把一家使用了人臉識別認證系統的公園告上了法庭。
這樁被譽為“中國人臉識別第一案”的起因很簡單:
一家杭州的動物園要把之前的指紋入園認證改為人臉識別認證,但這一改動惹怒了已經辦理年卡的浙江理工大學特聘副教授郭兵。他給出的理由很充分——
憑什麼你沒徵求我的意見,就默認我們都同意把麵部信息提供給你?
“動物園強制要求遊客必須進行人臉識別,我覺得這顯然違法了《消費者權益保護法》,也不符合《網絡安全法》,更不符合目前正在製定的《個人信息保護法》。”
公園的官方回復也很有意思,因為他們頗為疑惑,一談到“人臉識別”大家都驚呼“我的隱私數據被盜了”,怎麼指紋、電話和身份證信息大家都無動於衷呢?
“指紋也是信息啊,當時辦卡繳費也要登記真實姓名,電話、家庭住址以及身份證信息,人臉識別只不過使用更方便而已。”
網友的表現也沒有讓人感到意外。
除了力挺教授,大家又把最近備受爭議的校園安防監控項目與BrainCo腦機接口頭環引發的校園監控事件拉出來鞭屍n次。
事實上,當這項技術最終被寫上一紙訴狀時,我的心情是複雜的。
一方面,大眾對隱私的重視和“較真”似乎有些珊珊來遲。
如果是在兩年前,支付寶微信的人臉識別支付尚未推出,機場人臉識別閘機尚未引入,各大銀行的APP和櫃檯機器尚未嵌入人臉識別功能,小區門口還沒有架起人臉識別門禁,公司還沒有換上人臉識別打卡機……那麼或許我們還有說“不”的丁點兒可能性。
但是,在走進一家沙縣小吃都可以用刷臉支付的當下,你所謂的“臉權”早已不再由自己掌控。
捫心自問一下,被人臉識別設備環繞,是不是至少有一次的面部信息是自己自願認證的?
另一方面,現在之所以將槍口都對準了“人臉識別”,實為後者是當下新技術應用中的“出頭鳥”。
很多人出口便是“臉和基因數據是不可更改的生物信息,是個人安全的最后防線”,聽起來嚴重不已。但事實上,從目前來看,與人臉信息被盜用相比,手機 APP通過你開啟的麥克風權限“偷聽”你的語音信息,電商網站上的消費信息被偷取、置換和銷售會帶來更為嚴重的後果。
後者更為普遍,甚至每時每刻都在發生,否則你以為很多音樂APP的個性化推薦會做的那麼精準?有工程師曾向虎嗅透露,“這就是一個行規,沒什麼大不了的”。
2018年底,亞馬遜音箱被爆出發生重大監聽事故,正式拉開了“全球智能硬件竊聽風雲”長篇故事的大幕。當時一位德國用戶向當地雜誌爆料,在自己向亞馬遜討要自己的個人活動語音數據時,對方發給他了1700份陌生人對話的語音。
而國內一家智能音箱公司的工作人員曾透露,為了能夠獲得更多語音數據,智能音箱在一定時間內自動開啟進行錄音在業內已經不是什麼新鮮事了。
譬如,曾有朋友半夜起床去廁所時發現,自己床頭的某品牌智能音箱正處於喚醒錄音狀態。
但是,以上行為與技術本身有關係嗎?
事實上,這些採集和存儲數據的旁門左道,跟“人工智能”或“人臉識別”基本是兩碼事。
這是我們在為豬圈裡的豬仔(人工智能)找“長膘秘籍”(數據)過程中犯下的錯誤,而非豬本身的錯誤。
因此,我們的矛頭其實指偏了。
有人說密碼被破解還可以換個密碼,而人臉數據一旦洩露就無法更改。但身份證也是如此,一旦身份信息洩露,也同樣改不了。
但與身份信息不同的是,身份證電話洩露可以被不法分子用來進行詐騙活動,而人臉數據洩露被直接利用的案例現在其實很少,很多人提到的“假視頻製作”其實目前除了被用來惡搞,並無可以參考的真實犯罪案例。
據一位安全工程師向虎嗅透露,目前人臉數據洩露並沒有產生大規模黑產,雖然已經有些已知的case,但整體來看,人臉識別數據直接導致的案例量級很小。
“其實隱私被侵犯,主要是指線上服務和交易系統中對敏感數據採集、存儲、使用以及共享等環節出現的問題。這與人臉識別以及其他生物識別技術無關,屬於應用系統問題。”人臉識別技術供應商瑞為科技的CTO何一凡向虎嗅道出了本質。
他告訴虎嗅,除了精準度與防偽性更高,人臉識別跟指紋並沒有本質區別,我們可以把它理解為一種升級版的鑰匙。
“在沒有跟其他’信息’做關聯的情況下,本身並不會帶來太多危害,但是假如同時能獲取這個人的身份證、電話、具體消費出行信息以及行為踪跡,那麼危害就很直接了。”
舉個例子,假如你家也安裝了人臉識別鎖或指紋鎖,綜合以上信息進行更大規模的數據蒐集和分析後,“專業人士”其實可以輕鬆踏遍你家裡的每一個角落。
對了,上面那個發現亞馬遜音箱竊聽內幕的用戶也是這樣順著幾段錄音並配合在Facebook搜索信息找到語音文件中的幾位“受害者”的。
請法律“上場”
如果說到這裡,你還沒明白我們到底應該在哪個環節去發現問題並解決問題,那麼請就此打住,繼續去做無腦的鍵盤俠。
在終於有人願意用時間和金錢成本都極高的法律手段來維護自己的隱私權的當下,我相信這位教授站出來的終極目的不是為了要回那1000多塊的卡費,而是用這起訴訟來引起法律界朋友們的重視。
沒錯,是時候倒逼政府出台相關法律並加強監管了。
在我們就這項“國內人臉識別第一案”聯繫到上海新閔律師事務所合夥人莊帆後,他試圖用不同的法律維度對其進行分析,但其實每個維度單拎出來都不能完全詮釋這起訴訟:
首先,從合同(法)角度來看,動物園在訂立合同時,並沒有要求郭先生進行面部掃描,也沒有說必須要用人臉識別才能入園。
那麼在合同執行過程中,動物園突然提出指紋識別無效,必須要用人臉識別入園的話,就是單方面變更履約條件。而如果郭先生不接受人臉識別入園,從而被禁止入園,那麼動物園的行為就是違約。郭先生據此提出解除合約,則會得到法院的支持。
但是,動物園曾強調也提供其他入園方式,如果這種說法確實成立,那麼訂立合同的目的(郭先生要進動物園觀賞動物)還是能夠實現的,據此還達不到解約條件。
其次,從《消費者權益保護法》的角度來看,根據第二十九條規定:“經營者收集、使用消費者個人信息,應當遵循合法、正當、必要的原則,明示收集與使用信息的目的、方式和範圍,並經消費者同意。”
因此我們應該假設,動物園如果說“你要購買年卡必須要錄入指紋或者人像,否則我就不賣給你”,那麼這種行為是否違法?
我們知道,動物園還存在一種人工校對的途徑,可以比對持卡人的身份證信息或購買年卡時拍攝的照片,並不必然通過指紋或者臉部識別才能進園,只不過人工比對會降低效率,增大成本。
因此,動物園在客戶未授權的情況下,根本無權要求客戶錄入指紋或面部圖像。如果動物園出售年卡時必須要求用戶錄入指紋或人像,目的就存疑,我們完全可以拒絕,並且有理由去市場監督管理部門投訴。
綜合來看,動物園之所以能夠用指紋與人臉識別,不是動物園本身有這個權力,而是顧客為了一定的便利性,自己讓渡了部分隱私權。
因此,動物園的行為,有違反消費者權益保護法第二十九條規定之嫌。
第三,從個人信息安全的角度去看,指紋與人像都能夠直接與個體的身份建立聯繫。而與指紋相比,人眼的虹膜具有獨特性,人的面部結構也能夠被拍攝成圖片後進行數據化編輯。
換句話說,指紋數據洩露雖然危害很大,但無法迅速且直接地與當事人構建聯繫;但如果人像信息被洩露,再加上動物園留存的其他身份信息也被盜取,則完全可以被他人利用建立起一個立體的身份信息庫。
而動物園負責人的反駁中已經透露出公園目前留存有“指紋、電話以及地址”,這些隱私信息與人臉數據已經具備了建立一套立體身份信息庫的可能性。
那麼,你相信動物園有強大的信息保護系統嗎?我是心存質疑的。
與此同時,試想一下哪家公司目前保存著包括你人臉、身份以及消費數據在內的所有隱私,你的人臉就會成為這些公司“幫”你開啟潘多拉盒子的一把關鍵鑰匙。
以上就是頒布《個人信息保護法》的重要性所在,這毋庸置疑將會成為用來保護我們人體生物信息最牢固的一塊法律盾牌。但很遺憾,目前這項立法仍然在製定中。
不過,假如《個人信息保護法》一旦制定完成並通過,那麼這可能也意味著,我們能夠對所有並非以維護公共安全為目的的人臉識別應用說“不”。
信任技術還是信任公司?
我們必須承認一個殘酷現實——發展人工智能,需要大量數據,而要想獲得這些數據,必然會犧牲一部分隱私。
三四年前,大家都在關注人工智能底層技術的發展,這個矛盾尚處於蠢蠢欲動階段,而在技術逐漸被大規模推廣和使用過程中,如今矛盾已經在中國大眾隱私意識覺醒的過程中被逐漸激化。
所以,我們是放棄發展這項技術而保護隱私?還是讓出隱私來發展技術?
都不是。
我們要做的是在隱私與技術發展中間劃一條線,需要集體討論到底需要割讓多少公眾隱私,來達到一個整體的社會效益。
而畫這條線的標準只有一個:如何在我們可以接受的隱私損失範圍內,來獲得更多好處。
譬如,如果有醫學專家告訴一位癌症患者,醫院需要他提供一部分個人身體數據來做更多分析以便更好控制病情,你認為他說“不”的機率會有多大?
實際上,我們在很多場景下並非不願意把自己的一些數據“貢獻”出來,而是我們擔心,這些數據是否會被非法使用。
因此,解決“如何讓數據不被非法使用”這個問題就好了。
目前很多人工智能公司正在採用與蘋果 2016年提出的一種隱私保護技術方法,用以來抵抗一種在黑客界很常見的攻擊方法——差分攻擊法。
也就是說,雖然你的身份信息通過數據脫敏等方式“隱”去了,但是我知道你的性別,知道你的其他一些指標,而外部一堆數據中如果也有與之相同的數據,那麼我就有可能把你這個人給“撞”出來。
而這項對抗差分攻擊的方案理解起來很簡單,就是往這些數據裡添加“噪聲”,這本質上就是一種消除數據之間關聯性的有效方式。就像上面所說,單維數據的單打獨鬥一般“成不了氣候”。
然而,事情往往沒有那麼簡單。
早在兩年前,百度安全實驗室就通過大量“滲透性測試”,也就是良性入侵的方式發現了包括人臉識別在內的多項生物識別技術其實都具備“易於偽造”的特質,甚至不如密碼安全。
直到現在,受成本所限,市面上絕大部分人臉識別系統,特別是民用系統,其實都是基於2D的平面人臉圖像進行識別,因此攻擊起來早已不是什麼難事。
你可以通過照片、視頻,以及製作3D人臉模型等假體對人臉識別系統進行攻擊。製作這些材料的成本可能只有幾十塊。
所以通常來說,只有把3D技術、人臉、指紋以及密碼進行融合性使用,才能成為目前最可行的對抗攻擊解決方案,但顯然,大多數商業公司基於利益是不可能這麼做的。
更有意思的是,即便有太多技術公司都在聲稱為保護用戶的數據隱私使用了大量“獨門技術秘笈”,但實際上我們始終無法對這些技術舉措有一個直觀且清晰的認識,更無法判斷其成效究竟有幾分。
甚至於從現實來看,他們對待數據的態度與自己口中的“願景”是完全矛盾的。
譬如,有行業人士曾向虎嗅透露,許多人臉識別公司為了度過缺乏數據的冷啟動期,除了在網上自己搜尋數據,還不得不去購買人臉數據,而中間商手裡的人臉識別數據往往也是通過其他技術公司或數據標註公司幾經倒手的獲得的。
1個月前,北京青年報記者就曾在調查中發現有人在網絡商城中公然售賣“人臉數據”,量級高達17萬條。有意思的是,這些數據是完全被標註好的,除了人臉位置信息,還有性別、表情情緒、顏值等其他信息。
而這些照片對應的被拍攝者,很多都不知道自己的臉竟然被非法採集過;買家,則是一些做計算機視覺或做人臉模型訓練的開發者。
這件事情讓我想到了外國科技媒體Quarz曾針對波音737 Max8客機在今年發生的兩起墜機事故提出的一個獨特觀點:
選擇信任一項產品或者是服務,僅僅是取決於“我們是否可以相信這門技術”嗎?還是在於“我們能否完全信任開發此類技術的公司和監管機構”?
就像這位教授所說的,如果是考慮到安防公共安全,人臉數據被使用還尚可進一步討論,那麼醫院、商場超市、學校以及各種商業場所,值得我們足夠信任嗎?
歷史告訴我們,一旦一項技術變得無處不在,即使安全問題還沒有得到充分解決,人們也開始學著去接受它。
而這意味著,我們需要去更多關注“開發和部署人臉識別技術的公司和使用這項技術的商舖是否值得信任”,而不是“大眾是否會因為隱私問題排斥或接受人臉識別技術” 。
那麼回到這個案子上,你信任動物園以及給動物園提供系統的信息服務商嗎?
作者:宇多田