生成式人工智慧的商品化導致了網路虛假內容的爆炸性成長： 根據ID 驗證平台Sumsub 的數據，從2023 年到2024 年，全球Deepfake的內容增加了4 倍。 2024 年，Deepfake甚至佔所有詐騙行為的7%，從冒名頂替和帳號接手到複雜的社交工程活動不一而足。

Meta 希望能為打擊Deepfake做出有意義的貢獻，它將發布一款工具，為人工智慧生成的影片片段添加不易察覺的浮水印。 該工具於本週四發布，名為”Meta Video Seal”，以開源形式提供，旨在整合到現有軟體中。 該工具加入了Meta 的其他浮水印工具：Watermark Anything（今天以許可方式重新發布）和Audio Seal。

Meta 公司的人工智慧研究科學家皮埃爾-費爾南德斯（Pierre Fernandez）在接受TechCrunch 採訪時表示：「我們開發Video Seal 的目的是提供更有效的視訊浮水印解決方案，尤其是在檢測人工智慧生成的影片和保護原創性方面。

Video Seal 並非首創此類技術。 DeepMind 的SynthID可以為影片添加浮水印，微軟也有自己的視訊浮水印標註方式。

但費爾南德斯斷言，許多現有方法都存在不足：”雖然存在其他水印工具，但它們對視頻壓縮的魯棒性不夠，而視頻壓縮在通過社交平台共享內容時非常普遍；效率不夠高，無法大規模運作；不開放或不可複製；或是從影像浮水印衍生出來的，而影像浮水印對影片來說不是最佳選擇。

除了浮水印外，Video Seal 還能在影片中加入隱藏訊息，以便日後揭開這些訊息，確定影片的來源。 Meta 聲稱，Video Seal 可抵禦模糊和裁剪等常見編輯以及流行的壓縮演算法。

費爾南德斯承認，Video Seal 有一定的局限性，主要是在工具水印的可感知程度和整體抗篡改能力之間進行權衡，嚴重壓縮和大量編輯可能會改變水印或使其無法恢復。

當然，Video Seal 面臨的更大問題是開發人員和業界沒有太多理由採用它，尤其是那些已經在使用專有解決方案的開發人員和業界。 為了解決這個問題，Meta 推出了一個公開排行榜–Meta Omni Seal Bench，專門用於比較各種水印方法的性能，並在今年的大型人工智慧會議ICLR 上組織了一個關於水印的研討會。

“我們希望越來越多的人工智慧研究人員和開發人員將某種形式的水印整合到他們的工作中。也希望與業界和學術界合作，在該領域取得更快的進展。”