Deepfakes，這一AI 領域的“大毒瘤”，正在引起越來越多來自行業的反擊。當地時間2020 年1 月6 日，Facebook 全球政策管理副總裁Monika Bickert 在博客中表示，Facebook 將刪除滿足其標準的Deepfake 視頻。這是Facebook 打擊平台上“操縱媒體”（Manipulated Media）的最新動作。

Monika Bickert 表示：

雖然Deepfake 視頻當前在互聯網上仍然很少見，但其數量的增加將會對行業和社會構成重大挑戰。

何為Deepfake？

Deepfake，大家可能或多或少聽過名字。

2017 年底，美國社交新聞網站Reddit 的一位用戶Deepfakes 運用人工智能技術，製作了一段“假”色情視頻，把《神奇女俠》女主角Cal Gadot 的臉嫁接到一個成人電影女星身上，一時間引起轟動。

實際上，換臉在計算機視覺領域頗為常見，提到AI 換臉的方法，一個繞不開的話題便是Cycle GAN——人臉轉換在早期的一個重要嘗試。Cycle GAN 由深度學習模型GAN（Generative Adversarial Networks，即生成對抗網絡）衍生而來，可以便捷地學習兩個類別之間的轉換關係，因而天然地適用於“圖像到圖像轉換”。

不過，Cycle GAN 保證了語義上的轉變，卻沒法保證一些細節問題，而最主要的兩點便是表情無法一一對應、會出現混雜無意義的像素。

不同於Cycle GAN，Deepfake 是一種深度自動編解碼器模型（Autoencoder-Decoder），通過用源人物和目標人物的至少幾百張照片，訓練模型分別識別、還原兩人面部的能力，最後用源人物的照片搭配目標人物的解碼器，從而完成轉換。

當然，Deepfake 也有局限——無法在小樣本上工作，也就是說無法憑一兩張照片就替換兩張臉，模型的訓練過程也需要消耗大量資源。

由於用戶Deeofake 製作並上傳的換臉視頻涉及色情內容，且侵犯了他人隱私，Reddit 官方將其封號，而作為報復，Deepfakes 也將換臉視頻的AI 代碼免費公開。

潘多拉的魔盒一打開，Deepfake 開始憑藉著驚人的發展速度、逼真的換臉效果，並最終造成了惡劣的社會的消極影響。荷蘭網絡安全初創公司Deeptrace 曾於2019 年10 月發布了一份關於Deepfakes 現狀的報告，並指出網絡上現有的Deepfake 視頻中有96% 涉及色情，各大色情網站上流傳的Deepfake 視頻中，所有受害者均為女性；同時，娛樂圈名人成為Deepfakes 視頻的主要惡搞對象。

另外，Deepfake 對政局的影響也不容小覷，其中最為典型的兩個例子是：

• 2018 年，由Deepfake 合成的加蓬總統Ali Bongo 新年致辭視頻曾引起了兵變；
• 2019 年，馬來西亞經濟部長Azmin Ali 與男性發生性關係的視頻攪動了馬來西亞政局（同性性關係在馬來西亞屬違法行為，Azmin Ali 聲稱視頻是由Deepfakes 技術偽造，屬政治陰謀）；

正如荷蘭網絡安全初創公司Deeptrace 創始人兼首席科學官Giorgio Patrini 所說：

無論是視頻、音頻還是文本，我們一直以來依賴和信任的多個數字通信渠道都已遭到了顛覆。

政府、企業、學界聯合發力

Deepfakes 視頻的發展自然而然引發了人們的恐慌與深思。因此，各大科技企業也開始聯合學術界做出行動，避免造成更深的負面影響。

正如紐約州立大學工程與應用科學學院呂思偉教授所說：

解決這一問題需要技術人員、政府機構、媒體、公司以及每一個在線用戶的共同努力。

2019年9月5日，Facebook CTO Mike Schroepfer宣布，Facebook正與微軟公司聯合包括麻省理工學院、牛津大學、康奈爾科技校區和伯克利大學在內的多所大學研究檢測Deepfake的方法，同時非營利性研究組織Partnership on AI也參與其中，該組織的成員包括Google、蘋果、亞馬遜、IBM等大型科技公司。

另外，Facebook 投入了1000 萬美元發起“Deepfake 檢測挑戰賽”（Deepfakes Detection Challenge，DFDC），競賽於2019 年末在溫哥華舉行的NeurIPS 2019 上正式啟動，並於2020 年春季結束，進而激勵研究人員以及業餘愛好者尋找解決方案。

當月，Google AI 開源Deepfake 視頻檢測數據集，該數據集共包含來自28 個不同場景的由真人演員歷時1 年現場拍攝的3000 多段視頻。

2019 年10 月初，美國參議院情報委員會的Mark Warner 和Marco Rubio 召集了包括Facebook、Twitter、YouTube、Reddit 和領英在內的11 家科技公司負責人，旨在加快制定行業標準，規範AI 合成內容的分享、移除及存檔。月末，Twitter 發布了平台擬將執行的草案，並公開徵集用戶意見。

正如本文開頭提到的，Facebook 近日發布博客，公開了針對Deepfake 視頻的新政策。

博客提到，Facebook 將刪除符合以下標準的操縱媒體：

• 過度編輯或合成的視頻，誤導觀眾以為視頻中的人物說了他們實際並沒有說過的話；
• 通過AI 或機器學習技術對原有視頻素材進行整合、替換或疊加生成的視頻。

值得一提的是，對於不符合上述標準的視頻，第三方事實核查員也會審查（包括Facebook 的全球50 多個合作夥伴，將使用40 多種語言進行核查）。如果視頻被評定為虛假或部分虛假，Facebook 將明顯減少其在News Feed 信息流中的傳播，用戶在分享該視頻時也會收到提醒。

同時，Facebook 指出，新政策不適用於涉及模仿或諷刺內容的視頻，以及僅作了刪減或改變了說話順序的視頻。

Facebook 新政策充滿爭議

美智庫新美國安全中心CNAS 技術與國家安全項目主任Paul Scharre 曾警告說：

Deepfake 具有極大的破壞性，利用它來操控選舉只是時間問題。

因此，進入2020 年，隨著本屆美國總統大選臨近，作為全球最大的社交媒體平台，Facebook 此舉自然也考慮了政治方面的因素。

Monika Bickert 的博客於她即將出席國會關於網絡操縱和欺騙的聽證會之前發出，這可能並非巧合——距離2020 年大選只剩10 個月時間，很少有哪個政治階層的人對Facebook 在民主進程中發揮的作用感到滿意，此次政策的宣布似乎是Facebook 在向當局證明自己的能力。

談到政治，猶記得，2019 年一段美國民主黨議員Nancy Pelosi 的演講視頻遭到惡搞（視頻倍速降低至0.75X，Nancy Pelosi 音調也被調高），使其看上去很像是醉酒狀態。很快，這段視頻就傳遍了各大社交網絡，對當事人形象造成了極大影響。

對此，Facebook 表示，由於視頻屬於常規剪輯，並未違反平台的任何規定，因此不會刪除；不過鑑於其負面影響，Facebook 減少了該視頻在平台的傳播。

這一做法招致了廣泛批評，而Facebook 此次推出的“新政”也未針對類似去年Nancy Pelosi 視頻的虛假內容給出令人信服的策略，因此充滿爭議，爭議的主要原因有以下幾條：

第一，第1條標準只適用於那些“讓觀眾誤以為視頻中的人物說了他們實際上沒有說過的話”的視頻，也就是說不包含那些讓觀眾誤以為視頻中的人物做了他們實際上沒有做過的事情的Deepfake視頻。

其實這是個很大的漏洞。按照Facebook 的說法，哪怕一個Deepfake 視頻裡面有政客焚燒美國國旗，參加白人民族主義集會，或與恐怖分子握手，Facebook 也不會刪除視頻。雖然以上都是“極端情況”，但在外交政策、國家安全和選舉誠信方面，這些往往是最緊要的。尷尬的是，Facebook 一位發言人的確向美國付費媒體OneZero 證實，這些情況下平台不會刪除視頻。

第二，第2條標準對於控制虛假信息的傳播效果有限，因為現階段絕大多數此類視頻依然是通過視頻剪輯軟件來編輯的，通過手動刪除背景信息或調整語序，視頻剪輯者便到達了“斷章取義”的目的。正如紐約大學斯特恩商業和人權中心副主任、政治虛假信息專家Paul Barrett所說：

根據Facebook 的新政策，即便是虛假視頻，但因為篡改的手段不先進，所以不會被刪除。

第三，Facebook在博客裡提到的“事實核查政策”有嚴重的局限性。美國《連線》雜誌作家Renée DiResta認為：

事實核查政策的一個主要問題就是太慢了，在查明事實之前，視頻一直在病毒式傳播；而且如果涉及到政治，大多數人並不會相信事實核查的結果，這甚至還會升級為黨派之爭。

一個很好的例證便是——2019 年Facebook 的事實核查機制啟動時，Nancy Pelosi 的視頻已經廣為傳播，而且最終也沒被刪除，負面影響並未降低；面對網絡暴力，Nancy Pelosi 還指責Donald Trump 團隊也有不可推卸的責任（視頻中Nancy Pelosi 在談論Donald Trump）。

第四，該政策僅針對視頻。近日，美國亞利桑那州共和黨眾議員Paul Gosar在Twitter上發了一張前總統Barack Obama與伊朗總統握手的偽造照片。Facebook證實，這確實也不在新政策針對的範圍內。

第五，該政策最大的漏洞是不適用於涉及模仿或諷刺的視頻。實際上，虛假信息製造者往往是利用“諷刺”的標籤做幌子，一次次順利通過Facebook的事實核查，病毒式傳播著帶有明顯誤導性的消息。除非Facebook明確定義什麼才算“諷刺”，否則Deepfake視頻藉著“諷刺”的名號蒙混過關也不是不可能。

第六，該政策可能有向權貴低頭之嫌。據《紐約時報》報導，Facebook的一位發言人發郵件稱：

如果政治演講符合公眾利益，Facebook 不會對其進行審查。如果是政治人物違反了平台規定，我們將通過權衡“公共利益價值和損害風險”來進行評估。

對此，《紐約時報》認為，所謂的“公共利益價值和損害風險”定義模糊，但可以確定的是，政治人物是受到保護的階級。如此看來，政治人物操縱社交媒體，似乎比普通人更容易。

在批評聲不絕於耳之時，也有一些人士表示了對這一政策的肯定。

比如非營利組織WITNESS 的項目主管Sam Gregory 表示：

我認為這個政策很好，在Deepfake 成為一個普遍的問題之前，社交平台首先要清楚地表明立場，宣布他們的具體政策，這是很重要的。

另外  OneZero  認為，做得不夠好總比什麼都沒做要好，至少Facebook的新政策考慮到了一些可能出現的典型Deepfake視頻，這對政治是有積極意義的。誠然，如今絕大多數Deepfake涉及色情，而非政治，但Facebook一直以來禁止裸露和色情的規定其實也已經有了不錯的效果。

Facebook 一直以來聯合企業、學術界、政府做出的努力，的確表現出了它作為全球最大社交媒體的社會責任感；但不得不說，面對讓眾多女性、名人深受其害的Deepfake，Facebook 的博客像是一份考慮不周的、匆匆交上的答卷。

要有效地避免受害者群體更加龐大，或許還得三思而後行。