Skip to content
WONGCW 網誌
  • 首頁
  • 論壇
  • 微博
  • 壁紙下載
  • 免費圖床
  • 視頻下載
  • 聊天室
  • SEO工具
  • 支援中心
  • 表格製作
  • More
    • 在線名片
    • 網頁搜索
    • 天氣預報
    • 二維碼生成器
    • WordPress 插件及主題下載
  • Search Icon

WONGCW 網誌

記錄生活經驗與點滴

Meta開源新的AI影像浮水印技術,但真的可靠嗎?

Meta開源新的AI影像浮水印技術,但真的可靠嗎?

2023-10-11 Comments 0 Comment

AI 驅動的影像生成正在蓬勃發展,這是有充分理由的:它有趣且易於使用。雖然這些模型帶來了新的創意可能性,但它們可能會引起人們對不良行為者潛在濫用的擔憂,這些不良行為者可能會故意產生圖像來欺騙人們。即使是為了好玩而創作的圖像也可能會像病毒一樣傳播並可能誤導人們。

例如,今年早些時候,教宗方濟各穿著一件華麗的白色蓬鬆夾克的圖片在網路上瘋傳,川普被逮捕的照片引發熱議。這些圖像不是真實的照片,但很多人都被愚弄了,因為沒有任何明確的指標來區分這些內容是由生成式AI 創建的。

Meta 研究人員最近發布了一篇新的研究論文和技術程式碼,詳細介紹了一種為AI 圖片添加隱形浮水印的技術,用於區分開源生成式AI 模型何時創建的圖像。隱形浮水印將資訊合併到數位內容中。這些水印肉眼看不見,但可以透過演算法檢測到——即使人們重新編輯了影像。雖然圍繞著水印還有其他研究方向,但許多現有方法在生成AI 圖像後創建水印。

根據Everypixel Journal 報導,用戶已經使用三個開源儲存庫的模型創建了超過110 億張圖像。在這種情況下,只需刪除生成浮水印的行即可刪除不可見浮水印。Stable Signature 提出了一種方法來避免浮水印被刪除。

0 1

Stable Signature 方法的工作原理

論文地址:

https://arxiv.org/abs/2303.15435

Github 網址:

https://github.com/facebookresearch/stable_signature

Stable Signature 透過將浮水印紮根於模型中,並使用可追溯到影像建立位置的浮水印,消除了刪除浮水印的可能性。

讓我們透過下面的圖表來看看這個過程是如何運作的。

Alice 訓練了一個主生成模型。在分發之前,她對模型的一小部分(稱為解碼器)進行了微調,從而為Bob 生成給定的水印。此浮水印可以標識型號版本、公司、用戶等。

Bob 收到他的模型版本並產生圖像。生成的圖像將帶有Bob 的浮水印。Alice 或第三方可以對它們進行分析,看看影像是否是由使用生成式AI 模型的Bob 產生的。

這透過兩個步驟來實現:

1. 聯合訓練兩個卷積神經網路。一種將圖像和隨機訊息編碼為浮水印圖像,另一種則從水印圖像的增強版本中提取訊息。目標是使編碼和提取的訊息匹配。訓練後,只保留水印提取器。

2. 對生成模型的潛在解碼器進行微調以產生包含固定簽名的影像。在此微調過程中,會對大量影像進行編碼、解碼和最佳化,以最大限度地減少提取的訊息與目標訊息之間的差異,並保持感知影像品質。這種優化過程快速有效,只需要小批量和很短的時間即可獲得高品質的結果。

0 2

評估Stable Signature 的效能

我們知道人們喜歡分享和轉發圖像。如果Bob 與10 個朋友分享了他創建的圖像,然後每個朋友又與另外10 個朋友分享了該圖像,結果會如何?在此期間,有人可能會更改圖像,例如裁剪、壓縮或更改顏色。研究人員建構了Stable Signature以應對這些變化。無論人們如何轉換影像,原始浮水印都可能保留在數位資料中,並且可以追溯到創建它的生成模型。

研究人員發現Stable Signature 相對於被動偵測方法的兩大優點:

首先,能夠控制並減少誤報的產生,當將人類生成的圖像誤認為是AI 生成的圖像時,就會發生誤報。考慮到線上共享的非AI 生成圖像的盛行,這一點至關重要。例如,最有效的現有檢測方法可以發現大約50% 的編輯生成影像,但仍會產生約1/100 的誤報率。換句話說,在每天接收10 億張影像的使用者生成內容平台上,大約1,000 萬張影像將被錯誤標記,因此僅偵測到一半的AI 生成影像。

另一方面,Stable Signature 以1e-10 的誤報率(可以設定為特定的期望值)以相同的精度檢測影像。此外,這種浮水印方法允許追蹤同一模型的不同版本的圖像——這是被動技術無法實現的能力。

0 3

如果一個大模型經過了微調,

Stable Signature 如何偵測到微調版本產生的影像?

AI 大模型的常見做法是採用基礎模型並對其進行微調,以處理有時甚至為一個人量身定制的特定用例。例如,可以向模型顯示Alice 的狗的圖像,然後Alice 可以要求模型產生她的狗在海灘上的圖像。這是透過DreamBooth、Textual Inversion 和ControlNet 等方法完成的。這些方法作用於潛在模型級別,並且不會更改解碼器。這意味著我們的水印方法不受這些微調的影響。

總體而言,Stable Signature 與向量量化影像建模(如VQGAN)和潛在擴散模型(如Stable Diffusion)配合得很好。由於這種方法不修改擴散生成過程,因此它與上述流行模型相容。透過一些調整,穩定簽名也可以應用於其他建模方法。

0 4

AI 浮水印真的可靠嗎?

透過添加隱形浮水印的方式來識別AI 生成圖像的技術最近受到許多爭議。Google DeepMind 最近宣布針對影像產生推出一種新增浮水印的工具SynthID,同時辨識AI 產生的影像。透過掃描影像中的數位浮水印,SynthID 可以評估影像是由Imagen 模型產生的可能性。

但AI 水印是否能夠被輕易去除?根據外媒Engadget、Wired 等報道,美國馬裡蘭大學的一個研究小組對AI 生成內容的「數位浮水印」技術可靠性進行研究,發現這項技術可被輕易破解。

該校計算機科學教授Soheil Feizi 面對AI 生成圖像的水印現狀時直言不諱:“目前我們沒有任何可靠的水印技術,我們破解了所有的水印。”

在測試過程中,研究人員可輕鬆避開現有的水印方法,並發現在非AI 生成的影像上添加「假浮水印」會更容易。同時,該團隊也開發了一種「幾乎無法」從影像中去除的水印技術,且不會完全損害影像的智慧財產權。

AI 水印這種方式仍舊不過成熟,並不能成為百分之百有效的工具。我們需要期待未來能夠出現新的技術來為生成式AI 影像保駕護航,避免虛假圖片氾濫,避免版權侵害。

分享此文:

  • 分享到 Twitter(在新視窗中開啟)
  • 按一下以分享至 Facebook(在新視窗中開啟)
  • 分享到 WhatsApp(在新視窗中開啟)
  • 按一下以分享到 Telegram(在新視窗中開啟)
  • 分享到 Pinterest(在新視窗中開啟)
  • 分享到 Reddit(在新視窗中開啟)
  • 按一下即可以電子郵件傳送連結給朋友(在新視窗中開啟)
  • 點這裡列印(在新視窗中開啟)

相關


網絡資訊

Post navigation

PREVIOUS
榮耀重返印度市場計劃明年在印度在地化生產
NEXT
SEC再次起訴馬斯克:這次贏面很大

發表迴響取消回覆

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料。

More results...

Generic filters
Exact matches only
Search in title
Search in content
Search in excerpt
Filter by 分類
網站公告
Featured
限時免費
Windows 軟件下載
系統軟件
辦公軟件
圖像處理
影音媒體
網絡軟件
應用軟件
Mac 軟件下載
安卓軟件下載
網絡資訊
Mac資訊
Linux資訊
VPS資訊
NASA資訊
WordPress資訊
WeChat資訊
PHP資訊
教學資源
開源程序
網頁工具
SEO工具
醫療健康
其他資訊
Content from
Content to
2023 年 10 月
一 二 三 四 五 六 日
 1
2345678
9101112131415
16171819202122
23242526272829
3031  
« 9 月   11 月 »

分類

  • 網站公告
  • 限時免費
  • Windows 軟件下載
  • 系統軟件
  • 辦公軟件
  • 圖像處理
  • 影音媒體
  • 網絡軟件
  • 應用軟件
  • Mac 軟件下載
  • 安卓軟件下載
  • 網絡資訊
  • Mac資訊
  • Linux資訊
  • VPS資訊
  • NASA資訊
  • WordPress資訊
  • WeChat資訊
  • PHP資訊
  • 教學資源
  • 開源程序
  • 網頁工具
  • SEO工具
  • 醫療健康
  • 其他資訊

彙整

近期文章

  • 國家疾管局:規範戴口罩預防呼吸道傳染病 2023-12-10
  • 經過50年的搜尋麥哲倫流恆星終於揭開了它神秘的面紗 2023-12-10
  • 麻省理工學院發現的全球降溫現象:構造黏土有效捕捉有機碳 2023-12-10
  • 遙感三十九號衛星發射成功長徵系列火箭第500次飛行 2023-12-10
  • 推特創辦人傑克多西的加密貨幣公司推出BitKey硬體冷錢包售價150美元 2023-12-10
  • 科學家發現異性其實不相吸而是相似的人傾向於互相交往 2023-12-10
  • 美國國家航空暨太空總署的大氣波實驗首次捕捉到中間層影像 2023-12-10
  • 蘋果回應封殺Beeper Mini事件:“我們已採取措施保護我們的用戶” 2023-12-10
  • 哈雷彗星已越過遠日點重新回歸內太陽系預計2061年光臨地球 2023-12-10
  • 美國航空公司每年失去200萬個行李箱一商店打折賣無人認領行李 2023-12-10

熱門文章與頁面︰

  • 世界上有多少個國家
  • 打車叫到特斯拉不會開門很尷尬?官方介紹開關門方法
  • Autodesk AutoCAD 2021 正式版註冊版-簡體/繁體中文/英文版
  • 鳥寶寶有多內捲?為了讓父母投餵自己長出恐怖的嘴巴
  • R星有史以來最美的遊戲?《GTA6》與《荒野大鏢客2》畫面對比
  • 《最終幻想16》將沒有續作或衍生作
  • 玩家未來或有可能在《薩爾達傳說》裡控制薩爾達
  • 中國成功發射一箭三星朱雀二號火箭首次商業化交付
  • 歐盟就《人工智慧法案》達成協議
  • Google Chrome瀏覽器意外出現Status_Access_Violation錯誤而崩潰

投遞稿件

歡迎各界人士投遞稿件到admin@wongcw.com

請提供以下資料:

1.你的名字

2.你的電郵

3.分類目錄

4.文章標題

5.文章摘要

6.文章內容

7.文章來源

 

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

快帆

MALUS

極度掃描

DMCA.com Protection Status

WONGCW 網誌

  • 免責聲明
  • 捐助我們
  • ThemeNcode PDF Viewer
  • ThemeNcode PDF Viewer SC
  • Events

服務器提供

本站使用之服務器由ikoula提供。

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

© 2023   All Rights Reserved.