換臉軟件”躁”起來了?央視:得先讓安全防火牆”造”起來
近日,一款基於人工智能技術的“換臉”App走紅網絡。使用者只要上傳自己的高清照片,即可將本人面孔與大量影視片段中的明星面孔置換。既可以自己過明星癮,又可與心愛偶像“同框”出演,大量年輕用戶選擇將自己面孔上傳網絡,“換臉”娛樂。
這種新鮮的體驗,讓這款軟件短短兩天內位列蘋果應用商店免費榜和娛樂榜雙第一。不過,隨著換臉軟件火爆網絡,針對此類換臉應用的質疑聲音也越來越大,涉及隱私、數據安全、版權等問題。
我們首先來看看這款“換臉”軟件是如何“躁”起來的。
換臉軟件“火爆” 背後風險知幾分?
這款軟件在蘋果應用商店的標語為,“僅需一張照片,出演天下好戲”,該軟件使用AI技術,將用戶所上傳的照片,置入平台上用戶所選擇的影視片段之中,實現用戶與“明星”的換臉。
在軟件火爆之餘,也有用戶在社交媒體上表達了對隱私洩露的擔憂。由於換臉時需要進行眨眼、抬頭等各種驗證,這與刷臉支付時採集的臉部信息類似,同時註冊平台需要手機號碼,不少用戶擔心相關數據被洩露會引發一系列問題。畢竟,通過這項技術,只需上傳一張照片,想要照片中的人說什麼、做什麼,都易如反掌。儘管有視頻為證,但一切都是假的。
雖然軟件宣稱,照片提交上傳後,會對照片進行非公眾人物驗證和肖像權驗證,確保符合相關法規才能使用。沒有經過自拍驗證的照片會有使用次數限制,也無法被分享或下載。
但是,人臉作為生物識別信息,很多時候已經成為我們重要資產的密碼,作為一個需要上傳人臉數據的應用,該如何規範使用,誰來監管,如何監管,亟待解決。
換臉App火爆背後隱憂多
如果被別有用心的人利用“換臉”這個技術,盜取了你換臉的這些信息,包括你的個人信息,一旦匹配成功,輕則是精準詐騙,重則有可能你的賬號、密碼洞開 。
比如,當前大部分銀行等金融機構開設了人臉識別登錄App功能。“刷臉”支付甚至是遠程簽約等場景也越來越多見。如果用戶的“臉”不安全,“錢”也將面臨莫大風險。
法律專家:過度收集信息是通病監管應發力
今年2月,國內某面部識別公司的數據庫發生信息安全事故,數百萬條個人信息被洩露;8月,歐洲一家公司發生大規模信息洩露事件,數百萬人面部識別信息被洩露,這些都使得公眾面部信息被濫用風險增大。
如今,一些經營者過度收集個人用戶信息成了通病,個人隱私安全如何才能得到更好保護?
法律專家岳屾山:跳出這個軟件來看,或者跳出這個應用來看,會發現我們國內現在很多的這些應用,在索要用戶信息和索要用戶隱私肖像等等這些內容的時候,其實是很野蠻的。
它是過度地在要求我們提供這些信息給他們,其實也就是過度地蒐集。這個其實來講是一個通病的問題,這個問題就需要用戶自己在使用的時候注意保護好自己的隱私,和注意提交相應的應用的這些權限。
另外,可能需要去指望這些開發者或者這些經營者要遵法守法,要按照法律的規定,國家安全法明確規定是正當、合法和必要性的這個原則來收集信息。
接下來,就是要由我們的監管部門必須要出手,針對這些不法的或者說過度蒐集的一些不規範的行為,要及時地予以製止和進行規範,包括我們看到的一些用戶協議裡面,大量在侵犯著用戶權利的或者說隱私的這些情況,這些條款,相關部門應該極力地進行清除。
網友觀點:
網友:就是覺得不安全,一直沒用;
網友:別跟風,手機號註冊+人臉識別,刷你卡分分鐘;
網友:用戶協議寫得非常強勢,簡直就是霸王條款,讓人擔心;
網友:技術不錯,但這個技術容易為犯罪分子提供方便,被利用作案;
網友:註銷並非易事,註銷入口非常隱蔽,頁面總是提示驗證碼過期或者驗證碼錯誤。
新聞鏈接:AI換臉技術或存潛在風險
其實AI換臉技術的應用並不是新鮮事,此前國內也曾出現過。而在國外,由於AI換臉技術的監管缺失,已經引發擔憂。
AI換臉技術的應用其實並不是新鮮事,早在今年年初,一段通過AI技術將《射雕英雄傳》中朱茵臉部替換成楊冪的視頻在網絡上引起熱議。
記者搜索發現,視頻網站嗶哩嗶哩上存在大量AI換臉視頻,且人氣較高。不僅如此,AI換臉技術被公眾注意,還因為其先前被應用於製作淫穢視頻。
多家外媒曾報導“Deepfake”在國外引起的熱議,據美國《紐約時報》報導,隨著越來越多的人正在利用該技術製作名人的色情視頻,AI換臉正在引起恐慌。
英國《衛報》稱,此類軟件是“對未來可怕的一瞥”,顯示了對人工智能未來可能造成的倫理問題的擔憂。
爆款“躁”起來防火牆更要“造”起來
當下,AI換臉技術已經蓬勃爆發,並且容易被惡意使用,其中暴露出的問題亟待重視。而這不是這一個爆款應用面臨的問題。
當企業再“造”這類爆款應用時,是否應該更早地把防火牆“造”起來,而要把防火牆“造”得更堅固,光靠有著創造爆款衝動的企業還不夠,更早介入的監管力量顯然不可或缺。
而作為用戶,看到這類“躁起來”的爆款,應用前請先確認安全風險,記住一句話:“少安毋躁”。