Skip to content
WONGCW 網誌
  • 首頁
  • 論壇
  • 微博
  • 壁紙下載
  • 免費圖床
  • 視頻下載
  • 聊天室
  • SEO工具
  • 支援中心
  • 表格製作
  • More
    • 在線名片
    • 網頁搜索
    • 天氣預報
    • 二維碼生成器
  • Search Icon

WONGCW 網誌

記錄生活經驗與點滴

Meta開源新的AI影像浮水印技術,但真的可靠嗎?

Meta開源新的AI影像浮水印技術,但真的可靠嗎?

2023-10-11 Comments 0 Comment

AI 驅動的影像生成正在蓬勃發展,這是有充分理由的:它有趣且易於使用。雖然這些模型帶來了新的創意可能性,但它們可能會引起人們對不良行為者潛在濫用的擔憂,這些不良行為者可能會故意產生圖像來欺騙人們。即使是為了好玩而創作的圖像也可能會像病毒一樣傳播並可能誤導人們。

例如,今年早些時候,教宗方濟各穿著一件華麗的白色蓬鬆夾克的圖片在網路上瘋傳,川普被逮捕的照片引發熱議。這些圖像不是真實的照片,但很多人都被愚弄了,因為沒有任何明確的指標來區分這些內容是由生成式AI 創建的。

Meta 研究人員最近發布了一篇新的研究論文和技術程式碼,詳細介紹了一種為AI 圖片添加隱形浮水印的技術,用於區分開源生成式AI 模型何時創建的圖像。隱形浮水印將資訊合併到數位內容中。這些水印肉眼看不見,但可以透過演算法檢測到——即使人們重新編輯了影像。雖然圍繞著水印還有其他研究方向,但許多現有方法在生成AI 圖像後創建水印。

根據Everypixel Journal 報導,用戶已經使用三個開源儲存庫的模型創建了超過110 億張圖像。在這種情況下,只需刪除生成浮水印的行即可刪除不可見浮水印。Stable Signature 提出了一種方法來避免浮水印被刪除。

0 1

Stable Signature 方法的工作原理

論文地址:

https://arxiv.org/abs/2303.15435

Github 網址:

https://github.com/facebookresearch/stable_signature

Stable Signature 透過將浮水印紮根於模型中,並使用可追溯到影像建立位置的浮水印,消除了刪除浮水印的可能性。

讓我們透過下面的圖表來看看這個過程是如何運作的。

Alice 訓練了一個主生成模型。在分發之前,她對模型的一小部分(稱為解碼器)進行了微調,從而為Bob 生成給定的水印。此浮水印可以標識型號版本、公司、用戶等。

Bob 收到他的模型版本並產生圖像。生成的圖像將帶有Bob 的浮水印。Alice 或第三方可以對它們進行分析,看看影像是否是由使用生成式AI 模型的Bob 產生的。

這透過兩個步驟來實現:

1. 聯合訓練兩個卷積神經網路。一種將圖像和隨機訊息編碼為浮水印圖像,另一種則從水印圖像的增強版本中提取訊息。目標是使編碼和提取的訊息匹配。訓練後,只保留水印提取器。

2. 對生成模型的潛在解碼器進行微調以產生包含固定簽名的影像。在此微調過程中,會對大量影像進行編碼、解碼和最佳化,以最大限度地減少提取的訊息與目標訊息之間的差異,並保持感知影像品質。這種優化過程快速有效,只需要小批量和很短的時間即可獲得高品質的結果。

0 2

評估Stable Signature 的效能

我們知道人們喜歡分享和轉發圖像。如果Bob 與10 個朋友分享了他創建的圖像,然後每個朋友又與另外10 個朋友分享了該圖像,結果會如何?在此期間,有人可能會更改圖像,例如裁剪、壓縮或更改顏色。研究人員建構了Stable Signature以應對這些變化。無論人們如何轉換影像,原始浮水印都可能保留在數位資料中,並且可以追溯到創建它的生成模型。

研究人員發現Stable Signature 相對於被動偵測方法的兩大優點:

首先,能夠控制並減少誤報的產生,當將人類生成的圖像誤認為是AI 生成的圖像時,就會發生誤報。考慮到線上共享的非AI 生成圖像的盛行,這一點至關重要。例如,最有效的現有檢測方法可以發現大約50% 的編輯生成影像,但仍會產生約1/100 的誤報率。換句話說,在每天接收10 億張影像的使用者生成內容平台上,大約1,000 萬張影像將被錯誤標記,因此僅偵測到一半的AI 生成影像。

另一方面,Stable Signature 以1e-10 的誤報率(可以設定為特定的期望值)以相同的精度檢測影像。此外,這種浮水印方法允許追蹤同一模型的不同版本的圖像——這是被動技術無法實現的能力。

0 3

如果一個大模型經過了微調,

Stable Signature 如何偵測到微調版本產生的影像?

AI 大模型的常見做法是採用基礎模型並對其進行微調,以處理有時甚至為一個人量身定制的特定用例。例如,可以向模型顯示Alice 的狗的圖像,然後Alice 可以要求模型產生她的狗在海灘上的圖像。這是透過DreamBooth、Textual Inversion 和ControlNet 等方法完成的。這些方法作用於潛在模型級別,並且不會更改解碼器。這意味著我們的水印方法不受這些微調的影響。

總體而言,Stable Signature 與向量量化影像建模(如VQGAN)和潛在擴散模型(如Stable Diffusion)配合得很好。由於這種方法不修改擴散生成過程,因此它與上述流行模型相容。透過一些調整,穩定簽名也可以應用於其他建模方法。

0 4

AI 浮水印真的可靠嗎?

透過添加隱形浮水印的方式來識別AI 生成圖像的技術最近受到許多爭議。Google DeepMind 最近宣布針對影像產生推出一種新增浮水印的工具SynthID,同時辨識AI 產生的影像。透過掃描影像中的數位浮水印,SynthID 可以評估影像是由Imagen 模型產生的可能性。

但AI 水印是否能夠被輕易去除?根據外媒Engadget、Wired 等報道,美國馬裡蘭大學的一個研究小組對AI 生成內容的「數位浮水印」技術可靠性進行研究,發現這項技術可被輕易破解。

該校計算機科學教授Soheil Feizi 面對AI 生成圖像的水印現狀時直言不諱:“目前我們沒有任何可靠的水印技術,我們破解了所有的水印。”

在測試過程中,研究人員可輕鬆避開現有的水印方法,並發現在非AI 生成的影像上添加「假浮水印」會更容易。同時,該團隊也開發了一種「幾乎無法」從影像中去除的水印技術,且不會完全損害影像的智慧財產權。

AI 水印這種方式仍舊不過成熟,並不能成為百分之百有效的工具。我們需要期待未來能夠出現新的技術來為生成式AI 影像保駕護航,避免虛假圖片氾濫,避免版權侵害。

分享此文:

  • 按一下即可分享至 X(在新視窗中開啟) X
  • 按一下以分享至 Facebook(在新視窗中開啟) Facebook
  • 分享到 WhatsApp(在新視窗中開啟) WhatsApp
  • 按一下以分享到 Telegram(在新視窗中開啟) Telegram
  • 分享到 Pinterest(在新視窗中開啟) Pinterest
  • 分享到 Reddit(在新視窗中開啟) Reddit
  • 按一下即可以電子郵件傳送連結給朋友(在新視窗中開啟) 電子郵件
  • 點這裡列印(在新視窗中開啟) 列印

相關


網絡資訊

Post navigation

PREVIOUS
榮耀重返印度市場計劃明年在印度在地化生產
NEXT
SEC再次起訴馬斯克:這次贏面很大

發表迴響取消回覆

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料。

More results...

Generic filters
Exact matches only
Search in title
Search in content
Search in excerpt
Filter by 分類
網站公告
Featured
赫思醫美
限時免費
Windows 軟件下載
系統軟件
辦公軟件
圖像處理
影音媒體
網絡軟件
應用軟件
Mac 軟件下載
安卓軟件下載
網絡資訊
Mac資訊
Linux資訊
VPS資訊
NASA資訊
WordPress資訊
WeChat資訊
PHP資訊
教學資源
開源程序
網頁工具
SEO工具
醫療健康
其他資訊
Content from
Content to
2023 年 10 月
一 二 三 四 五 六 日
 1
2345678
9101112131415
16171819202122
23242526272829
3031  
« 9 月   11 月 »

分類

  • 網站公告
  • 赫思醫美
  • 限時免費
  • Windows 軟件下載
  • 系統軟件
  • 辦公軟件
  • 圖像處理
  • 影音媒體
  • 網絡軟件
  • 應用軟件
  • Mac 軟件下載
  • 安卓軟件下載
  • 網絡資訊
  • Mac資訊
  • Linux資訊
  • VPS資訊
  • NASA資訊
  • WordPress資訊
  • WeChat資訊
  • PHP資訊
  • 教學資源
  • 開源程序
  • 網頁工具
  • SEO工具
  • 醫療健康
  • 其他資訊

彙整

近期文章

  • 暑假矯正季,讓笑容更閃亮! 2025-07-18
  • 告別鬆弛皺紋!熱瑪姬的『射頻技術』如何打造凍齡肌膚? 2025-07-18
  • Firefox新版本將支援Chrome已有多年的WebGPU功能 2025-07-17
  • 彩虹正式上架統信UOS 直接運行Windows應用 2025-07-17
  • 美團高層承諾:將保證美團騎士收入永遠站穩藍領第一梯隊 2025-07-17
  • 科尼賽克CEO直言:電動超跑沒有靈魂我們不造 2025-07-17
  • HTC預告VIVE神秘新品或為首款智慧眼鏡 2025-07-17
  • 據傳PS5 Pro將在明年5月進行性能升級推測為《GTA6》做準備 2025-07-17
  • 德國玩家偏愛A卡銷量佔65%超NV:RX9070XT賣最好 2025-07-17
  • 三星和SK海力士因意外需求推遲DDR4記憶體淘汰計劃 2025-07-17

熱門文章與頁面︰

  • 無3C行動電源禁止登機一文看懂到底什麼是3C認證、如何分辨真偽
  • FF畫師天野喜孝打造巨幅佛經畫風格迷幻完美匹配
  • 上海兩大機場直通地鐵虹橋到浦東只要40分鐘全程26元
  • 您可以在Windows 11 24H2 中找回WordPad
  • Windows及OFFICE激活密鑰+電話激活教程–自用
  • 馬雲現身阿里巴巴園區頭戴鴨舌帽手拿咖啡氣色不錯
  • 虹膜識別:築起眼睛裡的安全線
  • 新研究發現了COVID-18誘發兒童多系統發炎症候群的發病機制
  • 金庸武侠小说全集(TXT、PDF、插图版)
  • 馬斯克對推特有哪些預期?7年營收漲4倍,要靠訂閱發力

投遞稿件

歡迎各界人士投遞稿件到admin@wongcw.com

請提供以下資料:

1.你的名字

2.你的電郵

3.分類目錄

4.文章標題

5.文章摘要

6.文章內容

7.文章來源

 

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

赫思醫美

快帆

MALUS

極度掃描

DMCA.com Protection Status

WONGCW 網誌

  • 免責聲明
  • 捐助我們
  • ThemeNcode PDF Viewer
  • ThemeNcode PDF Viewer SC
  • Events

服務器提供

本站使用之服務器由ikoula提供。

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

© 2025   All Rights Reserved.