OpenAI為DALL-E 3模型產生的圖像元資料添加浮水印
隨著越來越多的公司推出對內容真實性聯盟(C2PA)標準的支持,OpenAI 的圖像生成器DALL-E 3 將在圖像元資料中添加浮水印。該公司表示,C2PA 的浮水印將出現在ChatGPT 網站產生的圖片和DALL-E 3 模型的API 中。行動用戶將在2 月12 日前獲得浮水印。浮水印將包括一個不可見的元資料組件和一個可見的CR 符號,後者將出現在每張圖片的左上角。
人們可以透過內容憑證驗證(Content Credentials Verify)等網站來核實OpenAI 平台產生的任何圖像的出處(即使用了哪種人工智慧工具製作內容)。到目前為止,只有靜態圖像可以帶有浮水印,影片或文字都不行。
OpenAI 表示,在影像中加入浮水印元資料”對延遲的影響可以忽略不計,也不會影響影像產生的品質」。對於某些任務來說,它還會略微增加影像尺寸。
由Adobe 和微軟等公司組成的C2PA 組織一直在推動使用”內容證書”浮水印來識別內容的出處,並顯示其是人工製作的還是人工智慧製作的。 Adobe 創建了一個內容憑證符號,OpenAI 正在將其添加到《DALL-E 3》的創作中。 Meta 最近宣布將在其社交媒體平台上為人工智慧生成的內容添加標籤。
識別人工智慧產生的內容是拜登政府關於人工智慧行政命令的主要指令之一。但水印並不是阻止錯誤訊息的萬全之策。 OpenAI 指出,C2PA 的元數據”很容易被意外或有意刪除”,尤其是大多數社交媒體平台通常會刪除上傳內容中的元數據,截圖行為也會省略圖中的元數據。
OpenAI 在其網站上表示:”我們相信,採用這些方法確定出處並鼓勵用戶識別這些訊號,是提高數位資訊可信度的關鍵。”