Deepfakes已經讓“眼見為實”成為過去；至少在視頻方面是如此。近日，Deeptrace公司發布了一份關於Deepfakes現狀的報告，分享了迄今為止人們對Deepfakes最全面的了解以及其對現實世界的影響。

Deeptrace 是一家位於阿姆斯特丹的網絡安全公司，自2018 年成立以來就致力於研究Deepfakes 不斷發展的功能和造成的威脅。該公司創始人兼首席科學官Giorgio Patrini 在這份報告的介紹中說道：

無論是視頻音頻，還是文本，我們社會依賴和信任的多個數字通信渠道都已遭到了顛覆。

以下是雷鋒網對這份報告的整理：

自2017 年晚些時候出現以來，Deepfakes 就開始憑藉著驚人發展速度、逼真的換臉效果，以及對社會的消極影響而廣為人知。

然而，Deepfakes 在今年的發展尤其迅猛。報告數據顯示，今年網絡上Deepfakes 視頻的數量迅速增長，截至目前為14678 個，是去年12 月份（7964 個）的一倍。

在所有的Deepfakes 視頻中，絕大多數視頻都涉及色情內容，只有極少一部分視頻屬於非色情內容，兩者的比例分別為96% 和4%；而且，在最受歡迎的四大色情網站上（2018 年至今），關於Deepfakes 的視頻觀眾已經超過1.3 億人。

不過，值得注意的是，非色情的Deepfakes 視頻也越來越受歡迎。

具體到受害人（被換臉的目標）的性別、國籍和職業等方面，這家公司也對5 家色情網站和14 個相關YouTube 頻道的Deepfakes 視頻進行了統計：

• 報告顯示，在色情網站的Deepfakes 視頻中，女性是唯一的受害者；而在YouTube 上的Deepfakes 視頻中，女性受害者的比例為39%，男性受害者的比例為61%。
• 國籍層面，YouTube 上以美國、英國、加拿大等西方國家人物為目標的Deepfakes 視頻高達90%；在色情Deepfakes 視頻方面，美英加三國的女性受害者加起來佔總數的一半；但韓國的受害女性（大多是K-pop 歌手）高達四分之一。
• 在色情網站上的Deepfakes 中，受害人的職業也受到關注。只有1% 的受害人從事新聞與媒體行業，剩下99% 均來自娛樂業。在YouTube 上，受害者的職業則更加多元，但娛樂業的人物仍佔據大多數，少部分受害人為媒體人、政客和企業家。

Deepfakes 的商業化

2017 年11 月2 日，一名Reddit 用戶創造了Deepfakes，隨後這項技術傳遍全球。現在，隨著相關論壇、工具和服務的出現，Deepfakes 也變得越來越商業化——關於Deepfakes 視頻創作社區和論壇的發展是這一變化的關鍵驅動力，它們為換臉視頻創作者提供了探討交流的平台，也為創作者之間的合作提供了便利。

Deeptrace 的報告發現，目前，包括Reddit、4chan、8chan、Voat 在內，關於Deepfakes 視頻創作的社區和論壇有20 個；其中，有13 個論壇披露了自己的用戶數量，總人數大概在10 萬左右；在這10 萬個用戶當中，有4000 多個用戶擁有特權。

Deepfakes 的商業化不僅體現在社區和論壇上，還有新的電腦App 和服務。不過，就電腦App 而言，需要使用者俱有編程知識以及強大的圖形處理器；但由於“手把手教學”式的使用指南的問世，這一現像很快也會發生改變。還有就是定制Deepfakes 視頻的服務，費用則取決於視頻的使用目的以及製作的難度。

Deepfakes 的危害和影響

波士頓大學法學教授Danielle Citron 曾表示，“Deepfakes 已經成為了攻擊女性的武器。”

這是Deepfakes 最大的危害之一——Deefakes 色情視頻裡的受害者大多是英美兩國的女演員，以及韓國的女歌星，出現頻率最高的十位人物（雷鋒網按：為了保護這些女性，該報告並沒有透露她們的姓名）的總觀看人數超過3000 萬；其中出現頻率最高的為英國的一位女演員，她一共出現在257 個Deepfakes 色情視頻中。

Deepfakes 技術在政治方面的影響也不容忽視。CNAS 技術與國家安全項目主任Paul Scharre 曾警告：

Deepfakes 具有極大的破壞性，利用它來操控選舉只是時間問題。

• 2018 年，加蓬（非洲中西部國家）總統Ali Bongo 在公眾視野中消失了數月，他的健康狀況備受關注；為了打消外界圖謀不軌的猜測，政府公佈了一段Ali Bongo 錄製的新年致辭的視頻。然而，Ali Bongo 不同尋常的“出場方式”讓外界更加懷疑，軍方甚至發動了兵變。實際上，這段視頻為Deepfakes 合成；Ali Bongo 早在幾個月前就患了嚴重的中風。
• 2019 年，一段關於馬來西亞經濟部長Azmin Ali 與男性發生性關係的視頻在網絡上瘋傳，甚至攪動了馬來西亞的政局（同性性關係在馬來西亞屬違法行為）。雖然Azmin Ali 聲稱這段視頻是通過Deepfakes 技術偽造的，是政治陰謀；但是，國際專家聲稱找不到偽造跡象。

上述兩個例子都是Deepfakes 破壞政治進程最有力的跡象；除此之外，還有許多因Deepfakes 而受影響的政治問題。如果沒有防禦性對策，世界各地民主政體的完整性就會受到威脅。

然而，Deepfakes 對政治領域的影響不僅僅局限於惡意和欺騙，它甚至還催生了一種有關政治諷刺的藝術形式。包括Mark Zuckerberg, Kim Kardashian 和Donald Trump 在內的公眾人物可能被“操控”，說出自己“違心”的話；這也引發了人們對政治以及社會問題的談論和深思。

除了政治，Deepfakes 在社交媒體上的惡意應用也開始出現，並且正在影響網絡安全格局，比如製作虛假數字身份，以進行欺詐或者是間諜活動。

雷鋒網小結

總的來說，Deepfakes 的危害和影響已經蔓延全球。而且，從目前的趨勢來看，Deepfakes 背後龐大的受眾群體以及灰色的利益鏈，也讓消滅其帶來的負面影響變得更加困難。

不過，技術本身無罪，怕就怕在“科技不能向善”。