隨著文本-圖像生成器和智能聊天機器人不斷讓人們大開眼界，中國已經迅速採取行動，規定人們可以用建立在強大的人工智能模型上的工具做什麼。在涉及生成性人工智能的後果時，該國的監管機構顯然傾向於謹慎行事。這與美國形成了鮮明的對比，美國到目前為止在很大程度上讓私營部門製定自己的規則，這引起了道德和法律問題。

中國的最高互聯網監管機構–國家網信辦等三個部門最近頒布了一項關於”深度合成”技術的法規- 《互聯網信息服務深度合成管理規定》，它將其定義為”使用深度學習、虛擬現實和其他合成算法來生成文本、圖像、音頻、視頻和虛擬場景的技術”。該規定適用於在中國運營的服務提供商，並將於1月10日生效。

這套規則中沒有什麼令人驚訝的地方，因為這些限制大多與監督中國其他形式的消費者互聯網服務的限制一致，如游戲、社交媒體和短視頻。例如，條文明文規定用戶被禁止使用生成性人工智能從事危害國家安全、損害公共利益或非法的活動。

這種限制是由中國的實名制驗證機構實現的。在中國的互聯網上，匿名並不存在，因為用戶通常被要求將他們的在線賬戶與他們的電話號碼聯繫起來，而這些號碼是用他們的政府身份證註冊的。生成式人工智能的供應商同樣被要求使用手機號碼、身份證或其他形式的文件來驗證用戶。

中國也毫不意外地想要審查算法所能產生的內容。服務提供商必須手動或通過技術手段審核人工智能生成的內容和用戶提示。百度是最早推出中文文本到圖像模型的公司之一，其過濾內容的操作是相當常見的。在中國，審查是所有形式的媒體的標準做法。現在的問題是，內容審查是否能夠跟上人工智能模型所產生的大量文字、音頻、圖像和視頻的速度。

中國政府介入防止濫用人工智能，或許應該得到一些認可。首先，規則禁止人們使用深度合成技術來產生和傳播假新聞。當用於人工智能訓練的數據包含個人信息時，技術供應商應遵循國家的個人信息保護法規。平台還應該提醒用戶在使用深度合成技術改變他人的面孔和聲音之前尋求批准。最後，這一規則應緩解圍繞版權侵犯和學術作弊的一些擔憂。如果生成性人工智能的結果可能會引起公眾的混淆或誤認，服務提供者應在顯眼的地方打上水印，告知公眾這是機器生成的作品。

違反這些規定的用戶將面臨懲罰。服務運營商被要求保留非法行為的記錄，並向有關部門報告。除此之外，平台還應該發出警告，限制使用，暫停服務，甚至關閉違反規定者的賬戶。