在“美顏相機”已經讓不少網友分辨不清真假的當下，Facebook也在努力讓通過Deepfake製作的內容“現出原形”，以便未來能夠對相關內容展開追溯。在持續資助的相關研究中，最新項目就是與密歇根州立大學（MSU）研究人員達成的一項合作。可知這支聯合團隊打造了一套可對Deepfake偽造進行逆向工程的方法。

（圖自：Facebook AI官網）

具體說來是，這套逆向工具能夠分析AI 生成的圖像，以揭示創建它的機器學習模型的識別特徵。

這項工作的實用性在於，它可以幫助Facebook 追踪其在各種社交網絡上傳播Deepfake 編造內容的不良行為者。

此類內容可能包含虛假信息，或者已經相當氾濫、未經當事人同意的編造色情內容—— 後者也是Deepfake 技術在現階段的一大爭議點。

目前這項工作仍處於研究的早期階段，且逆向工程團隊也尚未做好相關部署準備工作。不過該領域的此前研究，已經能夠確定Deepfake 內容是由哪套已知的AI 模型來生成的。

作為對比，由Vishal Asnani 帶領的MSU 研究團隊，將致力於更進一步地識別未知模型架構。因為這些被稱作“超參數”的特徵，意味著每個機器學習模型都必須經歷相應的調整過程（就像引擎中的零部件一樣）。

簡而言之，Deepfake 處理過的內容，會在圖像上留下一個獨特的指紋，而調查者們可藉此來追溯其來源。

Facebook 研究負責人Tal Hassner 在接受外媒採訪時稱：“識別未知模型的特徵很重要，因為Deepfake 軟件非常容易定制。如果調查人員試圖追踪相關活動，別有用心者也必須更加努力地掩蓋其踪跡”。

Hassner 還將這項工作與法醫技術相比較，即通在結果圖像中尋找特定的模式，以辨識源內容是通過哪款型號的相機來拍攝的。生成的算法不僅可以識別生成模型的特徵，還可知曉哪套已知模型與Deepfake 內容有關。

在標準的基準測試中，Facebook AI 研究團隊已經得到了相當先進的檢測結果，儘管這距離投入實際應用還有很長一段距離。

比如在去年的Deepfake 偽造檢測競賽上，最終獲勝的算法，也僅能達到65.18% 的檢出率。而且這樣的“貓鼠遊戲”，顯然也會在未來很長一段時間內持續。