Google實現在人工智慧生成的音樂中嵌入聽不見的聲紋浮水印
使用Google DeepMind 的人工智慧Lyria 模型創建的音訊(例如使用YouTube 新音訊生成功能創建的音軌)將帶有SynthID 浮水印,以便人們在事後識別其人工智慧生成的來源。
DeepMind 在一篇部落格文章中說,這種水印人耳無法察覺,”也不會影響聽覺體驗”,並補充說,即使音軌被壓縮、加速或減速,或添加了額外的噪音,水印仍然可以被識別出來。
像SynthID 這樣的浮水印工具被認為是防止生成式人工智慧造成某些危害的重要保障。例如,美國總統喬-拜登(Joe Biden)關於人工智慧的行政命令要求制定一套由政府主導的新標準,用於對人工智慧產生的內容進行浮水印處理。這是一個大有可為的領域,但目前的技術還遠非抵禦AI內容造假的靈丹妙藥。
根據DeepMind 的說法,SynthID 的音頻實現方法是”將音頻波轉換為二維可視化,顯示聲音中的頻譜如何隨時間演變”。該公司聲稱,這種方法”與目前存在的任何方法都不同”。
Google在人工智慧生成的音訊中嵌入浮水印功能的消息是在該公司發布SynthID 測試版之後短短幾個月發布的,測試版適用於Imagen 在Google雲端的頂點人工智慧上創建的圖像。這種浮水印可以抵禦剪裁或調整大小等編輯,不過DeepMind 提醒說,它並不能抵禦”極端的修圖處理”。