今晨AI換臉視頻收割百萬用戶從好玩到可怕只需一步
今天早晨,筆者的朋友圈中出現了大量的AI換臉小視頻。這些小視頻大多來自眾多影視劇或者電影作品,用戶則可以把自己的臉通過人工智能的識別換到影視明星的身上。我們也了解到,這一AI換臉工具是一款名為“ZAO-逢臉造戲”APP,軟件的slogan為“僅需一張照片,出演天下好戲”。
值得一提的是,研發這款軟件的公司長沙深度融合網絡科技有限公司法定代表人為陌陌聯合創始人兼遊戲業務部總裁雷小亮。
AI換臉很簡單只需兩步驗證即可
筆者也親身體驗了一下這款軟件,使用的過程也與很多自拍類軟件類似。在用戶使用手機號碼註冊之後,系統會提示你上傳一張自拍圖片。“ZAO-逢臉造戲”對於自拍圖片的要求非常嚴格,必須是正臉,同時不清晰的照片也會被系統否決。
在上傳照片之後,“ZAO-逢臉造戲”還要求用戶進行肖像驗證。肖像驗證的步驟也很簡單,用戶要在攝像頭前進行眨眼、扭頭、張嘴、低頭等三個指示動作。這一驗證的目的是為了在換臉的時候能夠更智能的對於視頻的表情進行處理,同時也能夠保證用戶不是使用其他人的自拍照片來製作視頻。當這兩項驗證都通過之後,用戶就可以使用這張“肖像”進行換臉製作。
“ZAO-逢臉造戲”為用戶提供了豐富的視頻素材和場景,這其中既包括了《生活大爆炸》和《武林外傳》這樣的經典橋段,也包括了《中餐廳》這樣的時下流行綜藝節目。可以說這款軟件能夠覆蓋當下絕大部分人的口味。
除了製作視頻之外,用戶還可以在軟件中製作自己表情,用換臉的技術把表情包中的人物換成自己。
AI換臉技術海外早已出現但卻爭議頗多
事實上,“ZAO-逢臉造戲”此次採用的並非新技術,而是在海外早已開源的AI換臉技術。2017年的時候,AI換臉技術最早出現在海外知名論壇Reddit上,一位ID名為“deepfakes”將眾多逼真的換臉視頻上傳到網上。這其中引起廣泛關注的主要是一段將“神奇女俠”蓋兒·加朵的臉“移植”到成人電影身上。
這段視頻當時在海外引起了軒然大波,也直接導致了“deepfakes”被Reddit論壇直接封殺。不過在被封殺之後,“deepfakes”立即放出了換臉技術的代碼並開源,後來人們也直接把這種換臉技術稱為“deepfakes”。
“deepfakes”技術主要是來自於一種名為GAN(生成式對抗網絡)的AI模型,這一模型在2014年的時候就已經前谷歌人工智能工程師Ian Goodfellow所研究出來。似乎,“ZAO-逢臉造戲”是AI換臉技術“deepfakes”的首次商業化嘗試。
隱私問題不可小覷好玩與可怕只在一線之間
儘管這次的“ZAO-逢臉造戲”對於換臉的素材進行了各種限制,但是如果過這種技術真正想要高度商業化的話,那麼隱私問題是一件沒法繞開的事情。
“deepfakes”出現之後,在國外已經出現了許多對於公眾人物的惡搞視頻。這些視頻有些可以直接分辨出真假,而另外一些則欺騙性很高,很容易造成流言的傳播。成人電影也是這種AI換臉技術的重災區,滿足人們獵奇慾望的同時,這些製作AI換臉成人電影的團體也可以收穫到不菲的“黑金”。
因此,當AI換臉技術商業化真正成為國內企業的一個選項之後,如何保障用戶隱私,讓換臉視頻仍然停留在好玩這個程度,是這些公司需要認真考慮的。
目前用戶上傳個人面部信息之後,是很難進行更改的。因此,用戶將自己的這一重要個人信息交給了AI換臉技術的提供者,能否保證這些信息的安就至關重要。
然而作為一個新興產業,這些換臉服務的提供者一方面沒有一個正規的個人信息保護措施。即便有了保護措施,這些平台也非常容易黑客攻擊。這樣的問題值得大多數人感到擔憂,畢竟個人隱私早已經不是一件可有可無的小事情了。
除了個人隱私之外,正想我們前文提到的那樣,公眾人物的形象和隱私也在經受這種換臉技術的挑戰。這些公眾人物形像一旦被盜用,就很有可能給他們帶來不良的輿論和後果。尤其是一些平台還開放給用戶上傳視頻素材的功能,這就更會對公眾人物形象造成衝擊。