近日，一款名為“ZAO”的換臉軟件突然走紅引發爭議，“ZAO”熱背後，AI換臉灰色產業鏈也開始浮出水面。中新經緯調查發現，目前在網絡平台上，售賣明星換臉的淫穢視頻、提供視頻定制換臉服務、教授換臉技術等已經成為一門生意。

律師指出，製作、售賣AI換臉不雅視頻已構成傳播淫穢物品牟利罪，同時涉嫌侵犯他人肖像權和名譽權。此外，律師還提醒，被換臉的視頻有可能被用於詐騙或敲詐，造成更大的危害，應引起全社會重視。

40多位女星被換臉，上百部視頻賣49元

賣家雨嫣（化名）對中新經緯說，他手裡有45位女明星的上百部AI換臉視頻資源可以出售。隨後，雨嫣向中新經緯發來了上述視頻的目錄截圖。“網盤發貨，在線觀看，打包價49元。擔心不像可以免費試看，當紅一線（明星）的內容更好點，三四線（明星）的內容一般。”

▲視頻換臉操作頁面 受訪者供圖

另一位賣家也稱，可以打包出售40多位女明星上百部AI換臉視頻，價格為75元，可以免費試看，網盤發貨。

上述兩位賣家均提出不要在二手交易平台上溝通內容，而是要求在QQ上聊。其中一位賣家對中新經緯說：“平台對這種信息監控比較嚴格，商品信息隨時可能被刪，我們也是抱著僥倖的心理，能賣一單是一單。”

中新經緯注意到，9月2日晚間，上述兩款商品的信息已被平台刪除，但搜索“換臉”仍可看到其他眾多相似的商品信息。

換臉視頻可定制，10元製作一分鐘

此外，在其他一些電商平台上，還有賣家表示，可以提供視頻定制換臉產品。只需要買家提供一些被換臉人的照片，賣家便可以將照片中的人臉“轉”到特定視頻中特定人物上去。

“提供被換臉人的五到十張照片和視頻素材，收費是10元一分鐘，五分鐘起做，一到兩個小時出貨，如果視頻比較長，還可以便宜。”該賣家表示， “你可以自己提供視頻，也可以用我的，但視頻要越清晰越好，不要側臉、蓋臉。”

該賣家強調，視頻是他親自做，他手裡有很多固定客戶。“做視頻的時候電腦什麼也乾不了，還損耗顯卡，所以我這個價格算很公道。”該賣家說，“找我的有的是做’小黃片’的，但更多的是做一些商品的宣傳短片，大家各有各的用途。”

來源：QQ群截圖

此外，在一些與“AI換臉”相關的QQ群內，還有一些賣家稱可以傳授AI換臉技術，“包教包會，價格公道”，並且還可以贈送全套明星換臉視頻資源。據了解，“學習”AI換臉技術的學費約在500元上下，最快四五個小時就能學會。

有用戶對此表達了擔憂。網友“熙熙”表示：“會不會有人利用我發在社交平台上的自拍照去製作換臉視頻呢？那樣的話就太可怕了。”還有評論稱，這個簡單的應用可能會被居心叵測的用戶利用，從而製作各種色情、暴力的虛假視頻。

律師：AI換臉被濫用的風險不容忽視

ZAO App的突然走紅引發了這波對於AI換臉技術的關注與討論，但實際上，這項技術並不是最近才出現的。今年年初，一段通過AI技術將《射雕英雄傳》中演員朱茵臉部替換成楊冪的視頻在網絡引起熱議。目前，在一些視頻網站上，仍有大量AI換臉視頻。

AI換臉背後是Deepfake技術，Deepfake指的是用人工智能軟件製作的虛假視頻，由FakeApp程序創建而成，FakeApp則可實現AI換臉。

在ZAO由於可能引發版權、隱私安全等問題引起用戶廣泛關注後，北京市安理律師事務所高級合夥人王新銳曾表示，ZAO這類利用深度學習技術換臉的軟件，最大的問題還是大規模收集生物識別信息和“真假難辨”的Deepfake給社會帶來的安全風險，而這種風險目前被公眾廣泛低估，但實際上已經在不斷帶來嚴重的後果。

北京志霖律師事務所律師趙占領在接受中新經緯採訪時表示，製造、銷售AI換臉淫穢視頻無疑已構成傳播淫穢物品牟利罪，同時也涉嫌侵犯他人肖像權和名譽權。而對於購買AI換臉淫穢視頻的買家來說，若對其加以傳播或者以傳播牟利，則也可能構成違法甚至犯罪。

趙占領進一步指出，除了將AI換臉技術用於製作淫穢視頻，提供定制視頻換臉服務若被不法利用可能造成更大的社會危害。“對於普通人來說，別人拿你的照片去給視頻做了換臉，這有可能是出於調侃目的，但也有可能會利用這種視頻向被換臉者的親屬進行詐騙、敲詐。趙佔領說，“我擔心的是，這一技術被濫用，或者是被那些不法之徒及有惡意的人使用，便等於打開了潘多拉的魔盒。”

趙占領認為，對於這種新型的違法犯罪行為，需要及時完善現有法律規則和技術手段，同時也應該通過更多的手段讓民眾知曉這種行為帶來的危害性。

注：封面圖及導語圖為資料圖，中新經緯常濤攝。