OpenAI宣布將在數位內容中加入不可見水印以便可以檢測AI生成內容
OpenAI 剛剛發布部落格宣布該公司加入C2PA 內容來源和真實性聯盟的指導委員會,與業內其他公司一起合作為數位內容添加認證標準、可以識別數位內容的來源等。 C2PA 由軟體公司、相機製造商以及線上平台等共同創建,主要目的就是為數位產品包括影像、視訊、音訊等添加資訊來源,降低偽造內容用於創建謠言的幾率。
今年早些時候OpenAI 已經在DALL-E 3 圖像生成模型中接入了C2PA 相關標準,即生成的圖像會標記來自該模型,也就是證明這是由人工智慧創作的圖像。
OpenAI 稱當Sora 文本生成模型視頻廣泛推出時也會為Sora 生成的視頻內容添加C2PA 元數據,可以識別視頻來自Sora 生成而不是真實拍攝等。
值得注意的是C2PA 標準元資料是可以刪除的,一個簡單的例子就是對於DALL-E 3 產生的影像只需要修改圖片元資料甚至直接截圖就可以抹掉C2PA 訊息,所以OpenAI 還準備了不可見的水印。
不可見水印俗稱盲水印,這種水印肉眼無法識別,但一些特殊的工具對圖片進行處理後是可以讀取盲水印的,OpenAI 的計劃就是在後續實施盲水印,用難以刪除的不可見信號標記音訊等數位內容。
既然添加盲水印那OpenAI 也會提供對應的檢測工具,OpenAI 已經開發了用於檢測AI 模型生成內容的檢測分類器,該分類器從今天開始向一些研究人員提供,該工具主要可以檢測DALL-E 3 產生的影像,準確率為98%,大約會有不到0.5% 的非AI 生成的影像也會被標記為AI 生成,這個後續OpenAI 還會繼續優化。