英國準備制定新法禁止AI生成兒童性虐待材料
英國政府正在製定四項新法律,以打擊使用人工智慧工具產生兒童性虐待材料(CSAM) 的人。據英國內政部稱,這些法律將規定,創建、擁有或傳播旨在生成兒童性虐待材料的人工智慧工具屬於違法行為,這將使英國成為第一個這樣做的國家。

被判有罪者可能面臨長達五年的監禁。新法律還將把擁有人工智慧戀童癖手冊定為刑事犯罪,這些手冊告訴人們如何使用人工智慧對青少年進行性虐待,最高可判處三年監禁。經營託管CSAM 或提供如何誘導兒童的建議的網站將被視為非法行為,最高可判處10 年監禁。
此外,英國邊境部隊將有權在虐待兒童嫌疑人試圖進入英國時,檢查其數位設備中是否存在潛在的CSAM。根據內容的嚴重程度,這可能會導致長達三年的監禁。
「我們知道,變態掠食者在網路上的活動往往會導致他們當面實施最可怕的虐待行為。」內政大臣伊維特-庫柏(Yvette Cooper)說:」政府將毫不猶豫地採取行動,確保我們的法律與最新威脅保持同步,從而確保兒童的網路安全。
人工智慧產生的CSAM 可以包括全部或部分由電腦產生的內容。它可以有經過編輯的真實圖像,透過替換臉部或包含兒童真實聲音的內容來塑造他人形象。
美國國家犯罪署(NCA)的數據顯示,該機構每月逮捕約800 名與網路虐待兒童威脅有關的人員,這項數據令人擔憂。英國廣播公司(BBC)通報稱,據該機構統計,英國約有84 萬成年人(佔總人口的1.6%)對兒童構成威脅(包括線上和離線威脅)。
反對虐待兒童的組織建議政府採取進一步行動。網路觀察基金會(IWF)呼籲禁止“裸體化”應用程序,這些應用程式被用來創建成人和兒童的圖像。
IWF 臨時執行長 Derek Ray-Hill 表示:「人工智慧影像以令人恐懼的速度變得與攝影虐待無異,這表明立法需要跟上新技術的步伐。這種人工智慧內容的出現進一步助長了針對兒童的性暴力。
雖然創建或擁有人工智慧生成的CSAM 已經是違法行為,但IWF 指出,新罪名規定,經過優化以”創建最嚴重形式的兒童性虐待材料”的人工智慧模型為非法。
該慈善組織是最早對人工智慧和合成CSAM 敲響警鐘的組織之一。它發現網上人工智慧生成的CSAM 數量有所增加,並指出2024 年關於此類圖像的245 份報告中有許多”非常逼真,必須與’真實’圖像一視同仁」。
這些新法律將被納入即將出台的《犯罪與治安法案》,是英國政府圍繞兒童網路安全所做整體努力的一部分。英國數位監管機構Ofcom 最近宣布,成人網站在允許用戶訪問之前必須進行年齡驗證檢查。該監管機構還要求科技公司在3 月16 日前完成對其平台上的非法內容對兒童和成人帶來的風險的評估。