隨著越來越多的創作者將藝術表達方式轉向人工智慧，人們也更廣泛地推動人工智慧參與內容創作的透明度。為了解決這個問題，TikTok 今天宣布將推出一個新工具，讓創作者對人工智慧產生的內容進行標註，並將開始測試其他自動標註人工智慧產生內容的方法。

該公司表示，它認為有必要引入人工智慧標籤，因為人工智慧內容可能會混淆或誤導觀眾。當然，TikTok 已經更新了針對合成媒體的政策，要求人們對包含逼真圖像、音訊或視訊（如深度偽造）的人工智慧內容進行標註，以幫助觀眾理清視訊的來龍去脈，防止誤導訊息的傳播。TikTok 的政策允許其刪除未披露的逼真人工智慧影像。

然而，除了使用人工智慧故意誤導用戶的極端情況外，人工智慧產生的一些內容可能會在看似真實或虛假之間徘徊。在這種灰色地帶，終端用戶一般都會喜歡更透明的內容，這樣他們就能知道他們正在瀏覽的內容是否經過大量編輯或使用人工智慧創建。

TikTok 現在推出的新工具不僅能讓創作者更輕鬆地遵守有關合成媒體的現行政策，還能標註任何其他完全使用人工智慧生成或經過人工智慧大量編輯的內容。創作者在上傳影片時就可以使用該工具，TikTok 不希望創作者回去重新標註他們過去的影片。

當創作者使用新工具時，TikTok 會在影片的使用者名稱下方顯示一則訊息，說明創作者已將影片標記為人工智慧生成。不過，TikTok 不會因為創作者沒有標註不屬於現有合成媒體政策的人工智慧內容而對其進行處罰。

此外，TikTok 也表示正在開發一種自動偵測和標註人工智慧內容的方法。本週，TikTok 將開始測試”AI 生成”標籤，該標籤最終將適用於任何被檢測到使用AI 編輯或創建的內容。

該公司拒絕透露其技術將如何尋找可能的人工智慧內容的具體細節，並指出分享這些細節可能會讓壞人繞過其偵測能力。不過，TikTok 確實表示，它將測試不同的人工智慧檢測模型，並正在”評估”出處合作關係，旨在透過將人工智慧標籤嵌入內容本身，幫助平台更好地檢測人工智慧。

近幾個月來，OpenAI 和Google都宣布了自己的人工智慧偵測能力，為人工智慧貼標籤正在成為大型平台的常見做法。Instagram 似乎也在開發一項功能，以突出顯示使用人工智慧創建或編輯的內容。歐盟正在推動各平台標註人工智慧內容，以此作為打擊假訊息的一般規則。

為了提高透明度，TikTok 現在也將重新命名所有使用人工智慧的特效，在名稱中明確標註”AI”。這是它之前拒絕披露的內容。事實上，當TikTok 的”Bold Glamor”濾鏡因其在改變使用者臉部方面的高超技術而走紅時，就有人懷疑該濾鏡使用的不是AR（擴增實境技術），而是AI。不過，當時TikTok 拒絕回應媒體關於該產品是否為人工智慧的詢問。

隨著新標籤的更改，用戶現在可以一目了然地確定TikTok 的哪些濾鏡使用了AI。該公司表示，其更新的效果屋創建者指南也將要求他們這樣做。

TikTok 指出，在開發新的人工智慧標籤時，它諮詢了安全顧問委員會以及包括麻省理工學院David G. Rand 博士在內的行業專家，後者的研究考察了用戶對不同類型人工智慧標籤的反應。為此，TikTok 希望”人工智慧生成”一詞能被不同人群廣泛理解。

未來幾週，TikTok 也將推出教育影片和其他媒體素養資源，幫助用戶更能理解人工智慧。

在這些更新之前，TikTok 還圍繞著媒體中的人工智慧採取了其他舉措，包括今年2 月承諾加入人工智慧合作夥伴關係（Partnership on AI’s Responsible Practices for Synthetic Media），這是人工智慧透明度和負責任創新的業界最佳實務守則。今年8 月，該公司還與非營利組織Digital Moment 合作，與年輕人舉辦圓桌會議，以了解他們對人工智慧線上發展的看法。

人工智慧標籤將於今天開始推出，但在推出完成之前，您可能無法立即看到它們。