儘管人們對利用DeepFake來操縱選舉、在世界各國製造混亂的做法高度關注，但其中絕大多數人實際上更為幼稚，他們會將女性名人的面孔映射到色情明星的身體上，任何熟悉互聯網歷史的人都不會對此感到驚訝。

資料圖

在最近關於全身DeepFake的報導中，一家名為Deep Trace Labs的公司表明他們對合成媒體領域已開展廣泛研究，這家位於阿姆斯特丹的公司過往專注於AI操控內容。今天，該公司發布了一份備受期待的報告《DeepFake現狀：前景、威脅和影響》，他們在報告中探討了在網站、論壇和移動應用中普遍存在的DeepFake。

正如Deep Trace Labs的Giorgio Patrini所解釋的，這項研究始於該公司2017年成立之時，包括對網站、論壇和服務的全面檢查。研究人員梳理了論壇和DeepFake社區的帖子，找到晦澀和不太受到關注的元素，以全面了解DeepFake對現狀的威脅。Deep Trace通過其內部開發的公共API和特別工具從這些網站、渠道、論壇和社區收集數據。它還可以查看網站或YouTube頻道，在這些網站或頻道中，並非所有內容都可能來自DeepFake。

Deep Trace發現，目前網上有14678個DeepFake視頻，其中96%是色情視頻，並且大部分都是著名女演員的臉，被轉移到色情明星的身體上。事實上，大多數DeepFake的目標是女性，而大多數非色情的目標是男性。YouTube上超過90%的DeepFake視頻都來自西方世界，從女演員、音樂家到政客和企業界人士。但Patrini強調，這不僅僅是一種僅限於西方的現象。

“在DeepFake色情網站上，近三分之一的視頻中出現了非西方題材，其中韓國流行歌手佔了目標對象的四分之一，”Patrini說道。“這表明，DeepFake色情是一種日益全球化的現象。”

“我們的數據顯示，大多數實際上仍然是演員，但也有少數企業和政治領導人，”Patrini說道。“我認為這可以歸因於與非色情DeepFake相關的生命力機制。”創造者主要是業餘愛好者，他們試圖創造高質量的DeepFake成果。選擇知名人物，如馬斯克、特朗普或者Nicholas Cage，意味著你的“DeepFake”成果更容易被人看到，同時也增加了喜劇元素。

據介紹，在過去幾年裡，關於生成性對抗網絡（GANs）的論文數量激增，生成性對抗網絡是兩種神經網絡，一種是合成器或生成器，另一種是檢測器，可以生成DeepFake的圖像或視頻，然後在反饋環中仔細檢查質量，直到最終產品令人信服地得到改進。生成性對抗網絡絕不是DeepFake的幕後黑手，但Patrini表示，它們無疑是“由深度學習驅動的最流行和最有效的生成方法”。

Deep Trace的研究表明，生成性對抗網絡發文量的顯著增長，只能間接地表明這兩種現象具有相關性。Deep Trace無法在更多的生成性對抗網絡研究和DeepFake的增加之間，建立起直接的因果關係。

“不僅僅是具有博士學位的研究人員，更多的人都能夠試驗並提出新的算法變體，而且我們可以通過論文的增長來間接衡量這一點，”Patrini表示。“發表更多的實驗成果並將其擴展到新的應用表明，這些想法有可能被轉化為可重用代碼和更可靠、更高效的工具，來供非專家使用。”

Deep Trace還指出，DeepFake創作社區正在增長。Github、4chan、8chan和其他基於論壇的網站都共享開源的DeepFake代碼。

“我們在報告中指出的一個關鍵點是，與其他社區相比，某些社區的動機和活動非常不同，”Patrini表示。“如果我們只看負面新聞，很明顯，一些社區和論壇主要集中在使用DeepFake的創作工具，來製作那些非自願的DeepFake色情作品。”

Patrini認為，其中一些社區以提供非法或邊緣化的內容而聞名，這方面以4chan和8chan為代表。在這些平台上，DeepFake創作工具的商品化，可能會導致該技術繼續產出有害和惡意的使用案例，例如網絡欺凌或政治宣傳。

但Patrini很快注意到，其他平台上也都有愛好者和一些​​個體，在YouTube上專注DeepFake的博主更符合他們的興趣。比如博主Ctrl Shift Face，他曾將Tom Cruise和Al Pacino的臉變成了喜劇演員和印象派Bill Hader的臉。

Patrini認為：“我不會說這些用途具有明確的正面作用，但從表面上看，它們肯定不是惡意的。”此外，由於DeepFake不只是發生在西方的現象，Deep Trace認為，這需要全球採取行動，打擊惡意使用。

“從已經出現的各種工具和網站的數量可以看出，DeepFake對企業來說具有巨大的商機，”Patrini指出，這有助於這些工具的商品化和日益普及。“僅僅是DeepFake的想法就足以動搖政治進程。”