由於在訓練神經網絡中使用圖形處理單元，計算機視覺和深度學習在過去幾十年中取得了顯著進步。雖然這些高度精確的算法有很多有益的用例，但研究人員和開發人員都沒有對它們可能造成的不良影響視而不見。他們擔心的一個巨大劣勢是，惡意行為者可以利用這些系統通過製作“Deepfake”來傳播虛假信息，這是現實的人工智能生成的真人視頻和做虛構事物的視頻。

為了解決這個問題，Facebook週四宣布與Partnership on AI、微軟、以及來自康奈爾理工學院、麻省理工學院、牛津大學、加州大學伯克利分校、馬里蘭大學帕克分校和紐約州立大學奧爾巴尼分校等機構合作，發起Deepfake檢測挑戰賽（DFDC）。這一挑戰的目標是創建一個可用於訓練模型的實質數據集，這些模型可以準確地檢測Deepfake並報告它們。

這家社交網絡巨頭將捐贈超過100億美元資助這項工作，並希望通過這一舉措來激勵研究人員和組織提出新的想法，以對抗社交媒體和網絡上的虛假信息。Facebook首席技術官Mike Schroepfer寫道：

我們希望在這一領域促進更多的研究和開發，並確保有更好的開源工具來檢測Deepfake…Deepfake檢測挑戰賽將包括一個數據集和排行榜以及獎勵，以促使行業創建新的方法來檢測和防止通過AI操縱的媒體被用來誤導他人。

這些機構的研究人員將在國際計算機視覺會議（ICCV）上衡量數據集和使用它訓練的模型的功效。由此產生的完整數據集將於12月在神經信息處理系統會議（NeurIPS）上公佈。

此外，Facebook澄清說，其不會使用任何用戶數據來創建此數據集，只有同意和付費的參與者才能參與挑戰。有關官方公告的更多詳細信息，您可以點擊此處閱讀博客文章。有關挑戰的更多信息，請訪問Deepfake檢測挑戰網站。