生成式人工智慧以各種方式被越來越多地使用，這引起了人們對其可能被敵對分子和團體用來威脅兒童安全的擔憂。 Google、Meta、OpenAI、微軟和亞馬遜等科技公司今天承諾，將對其人工智慧訓練資料中的兒童性虐待資料（CSAM）進行審查，並在今後的模型中不再使用這些資料。

這些公司簽署了一套新的原則，旨在限制CSAM 的擴散。它們承諾確保訓練資料集不包含CSAM，避免包含CSAM 的高風險資料集，並從資料來源中刪除CSAM 影像或CSAM 連結。這些公司還承諾對人工智慧模型進行”壓力測試”，以確保它們不會生成任何CSAM 圖像，並且只有在經過兒童安全評估後才會發布模型。

其他簽署者包括Anthropic、Civitai、Metaphysic、Mistral AI 和Stability AI。

生成式人工智慧引發了人們對偽造影像的日益關注，包括網路上偽造CSAM 照片的氾濫。史丹佛大學的研究人員在12 月發布的一份報告中發現，用於訓練某些人工智慧模型的流行資料集包含CSAM 圖像的連結。研究人員還發現，美國國家失蹤與被剝削兒童中心（NCMEC）的舉報熱線在處理大量CSAM 報告內容時已顯得力不從心，而人工智慧生成的CSAM 圖片很快就使其不堪重負。

這兩家公司和其他公司與兩個團體合作，提出了這些新的承諾。一個名為”Thorn”，是一個致力於打擊兒童性虐待的非營利組織。另一個名為”所有科技都應以人為本”（All Tech Is Human），旨在幫助創建一個”負責任的科技生態系統”。

微軟在部落格文章中表示，它將開發生成式人工智慧模型，這些模型將不會在包含兒童性或剝削性內容的資料集上進行訓練。這也將有助於保護這些模型在發布後免受此類內容的影響。

博文補充：

今天的承諾標誌著在防止濫用人工智慧技術製作或傳播兒童性虐待材料（AIG-CSAM）和其他形式的兒童性傷害方面邁出了重要一步。這項集體行動彰顯了科技業對兒童安全的重視，顯示了對道德創新和社會最弱勢群體福祉的共同承諾。

Google在部落格文章中提到的兒童安全承諾與微軟在其人工智慧服務方面所做的一些承諾如出一轍。 Google補充說，它有自己的團隊專門負責查找顯示兒童可能面臨危險的內容，此外他們還表示，正試圖通過”哈希匹配技術、人工智能分類器和人工審核的結合”來查找和刪除涉及兒童性虐待和性剝削的內容。

最後，Google宣布支持美國國會關於保護兒童免受虐待和剝削的一系列法案。