國家網路資訊辦公室就《人工智慧生成合成內容識別辦法（徵求意見稿）》公開徵求意見。

人工智慧產生合成內容識別辦法（徵求意見稿）全文如下：

第一條為促進人工智慧健康發展，規範人工智慧產生合成內容標識，保護公民、法人和其他組織合法權益，維護社會公共利益，根據《中華人民共和國網路安全法》、《網路資訊服務演算法推薦管理規定》、《網路資訊服務深度合成管理規定》、《生成式人工智慧服務管理暫行辦法》等法律、行政法規及部門規章，制定本辦法。

第二條符合《網路資訊服務演算法推薦管理規定》、《網際網路資訊服務深度合成管理規定》、《生成式人工智慧服務管理暫行辦法》規定情形的網路資訊服務提供者（以下簡稱“服務提供者” ）開展人工智慧生成合成內容標識的，適用本辦法。

產業組織、企業、教育及科研機構、公共文化機構、相關專業機構等研發、應用人工智慧生成合成技術，未向境內民眾提供服務的，不適用本辦法的規定。

第三條人工智慧生成合成內容是指利用人工智慧技術製作、生成、合成的文字、圖片、音訊、視訊等資訊。

人工智慧產生合成內容標識包括明確標識和隱式標識。

明確標識是指在生成合成內容或互動場景介面中添加的，以文字、聲音、圖形等方式呈現並可被使用者明顯感知到的標識。

隱式標識是指採取技術措施在產生合成內容文件資料中添加的，不易被使用者明顯感知到的標識。

第四條服務提供者提供的生成合成服務屬於《互聯網資訊服務深度合成管理規定》第十七條第一款情形的，應依照下列要求對生成合成內容添加明確標識。

（一）在文字的起始、結尾、中間適當位置加入文字提示或通用符號提示等標識，或在互動場景介面或文字週邊加入顯著的提示標識；

（二）在音訊的起始、結尾或中間適當位置加入語音提示或音訊節奏提示等標識，或在互動場景介面中加入顯著的提示標識；

（三）在圖片的適當位置添加顯著的提示標識；

（四）在影片起始畫面和影片播放週邊的適當位置加入顯著的提示標識，可在影片結尾及中間適當位置加入顯著的提示標識；

（五）呈現虛擬場景時，應在起始畫面的適當位置添加顯著的提示標識，可在虛擬場景持續服務過程中的適當位置添加顯著的提示標識；

（六）其他生成合成服務場景應根據自身應用特徵添加具有顯著提示效果的明確標識。

服務提供者提供產生合成內容下載、複製、匯出等方式時，應確保文件中含有滿足要求的明確識別。

第五條服務提供者應依照《網際網路資訊服務深度合成管理規定》第十六條的規定，在產生合成內容的檔案元資料中加入隱式標識，隱式標識包含產生合成內容屬性資訊、服務提供者名稱或編碼、內容編號等製作要素資訊。

鼓勵服務提供者在生成合成內容中添加數位浮水印等形式的隱式標識。

文件元資料是指依照特定編碼格式嵌入到文件頭部的描述性訊息，用於記錄文件來源、屬性、用途、版權等資訊內容。

第六條提供網路資訊內容傳播平台服務的服務提供者應採取措施，規範產生合成內容傳播活動。

（一）應當核驗文件元資料中是否含有隱式標識，對於含有隱式標識的，應採取適當方式在發佈內容週邊添加顯著的提示標識，明確提醒用戶該內容屬於生成合成內容；

（二）文件元資料中未核驗到隱式標識，但用戶聲明為生成合成內容的，應採取適當方式在發佈內容週邊添加顯著的提示標識，提醒用戶該內容可能為生成合成內容；

（三）文件元資料中未核驗到隱式標識，使用者也未聲明為產生合成內容，但提供網路資訊內容傳播平台服務的服務提供者偵測到顯式標識或其他產生合成痕蹟的，可識別為疑似生成合成內容，應採取適當方式在發佈內容週邊添加顯著的提示標識，提醒用戶該內容疑似為生成合成內容；

（四）對於確為、可能及疑似生成合成內容的，應在文件元資料中加入產生合成內容屬性資訊、傳播平台名稱或編碼、內容編號等傳播要素資訊；

（五）提供必要的識別功能，並提醒使用者主動聲明發佈內容中是否包含生成合成內容。

第七條網路應用程式分發平台在應用程式上架或上線審核時，應當核驗服務提供者是否依要求提供產生合成內容識別功能。

第八條服務提供者應在使用者服務協議中明確說明產生合成內容標識的方法、樣式等規範內容，並提示使用者仔細閱讀並瞭解相關的標識管理要求。

第九條如使用者需要服務提供者提供沒有添加明確標識的生成合成內容，可在透過使用者協議明確使用者的識別義務和使用責任後，提供不含明確標識的生成合成內容，並留存相關日誌不少於六個月。

第十條使用者向提供網路資訊內容傳播平台服務的服務提供者上傳產生合成內容時，應主動聲明並使用平台提供的識別功能進行識別。

任何組織和個人不得惡意刪除、竄改、偽造、隱匿本辦法規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或服務，不得透過不正當標識手段損害他人合法權益。

第十一條服務提供者應依照有關強制性國家標準的要求進行識別。

第十二條服務提供者在履行演算法備案、安全評估等手續時，應依照本辦法提供產生合成內容識別相關資料，並加強識別資訊共享，為防範打擊相關違法犯罪活動提供支援與協助。

第十三條違反本辦法規定，未對生成合成內容進行標識造成嚴重後果的，由網信等相關主管部門依照有關法律、行政法規、部門規章的規定予以處罰。

第十四條本辦法自2024年月日起施行。