週一，一名利用人工智慧技術製作兒童性虐待圖像的男子被判處18年監禁，這是英國對深度偽造案件的一項具有里程碑意義的起訴。休-尼爾森（Hugh Nelson）現年27 歲，來自博爾頓（Bolton），他承認犯有16 項兒童性虐待罪行，包括使用美國軟體供應商Daz 3D 的人工智慧工具將真實兒童的日常照片轉化為性虐待材料。

他也承認慫恿他人對兒童實施性侵犯。在博爾頓刑事法院，法官馬丁-沃爾什（Martin Walsh）對納爾遜實施了延長刑期的判決，稱他構成了對公眾造成傷害的”重大風險”。 這意味著納爾遜要服滿三分之二的刑期才有資格假釋。

人工智慧的進步意味著偽造圖像變得更加逼真，也更容易創建，這促使專家們對電腦生成的兒童不雅圖像的增加發出警告。英國皇家檢察署有組織兒童性虐待部門的檢察官珍妮特-史密斯（Jeanette Smith）說，尼爾森的案件為如何起訴電腦生成的圖像和不雅和露骨的深度偽造圖像開創了新的先例。這起案件是同類案件中的首例，但隨著科技的發展，我們希望能看到更多此類案件得到審判。 “

大曼徹斯特地區警方在納爾遜的設備上發現了真實的兒童圖像和電腦生成的兒童性虐待圖像，這些設備是去年6 月扣押的；電腦生成的圖像看起來與真實照片並不完全相同，但可以歸類為”不雅照片”，而不是”違禁圖像”，後者的刑罰通常較輕。 史密斯說，之所以可以這樣做，是因為調查人員能夠證明這些圖像來自發送給尼爾森的真實兒童圖像。

尼爾森在8 月承認，他根據客戶的具體要求製作並銷售客製化的兒童性虐待圖像。 他利用客戶提交的真實照片產生了兒童的數位模型。 警方還說，他還在網路上免費或付費傳播他製作的圖像。

目前，科技業和監管機構都在努力應對生成式人工智慧帶來的深遠社會影響。 Google、Meta 和X 等公司一直在努力解決其平台上的深度偽造問題。英國國家犯罪署署長格雷姆-比加爾（Graeme Biggar）去年警告說，該署已經開始看到人工智慧生成的超逼真兒童性虐待圖像和影片。他補充說，觀看這類材料，無論是真實的還是電腦生成的，”都會實質地增加犯罪者自己對兒童實施性虐待的風險”。

大曼徹斯特警方的專業線上虐待兒童調查小組表示，電腦生成的圖像已成為他們調查的常見特徵。 「這起案件是對立法的真正考驗，因為以這種特殊方式使用電腦程式對這類犯罪來說是非常新的，而且英國現行法律中也沒有專門提及，」偵探警員卡莉-貝恩斯（Carly Baines）在8 月尼爾森認罪時說。

去年10 月通過的英國《網路安全法》規定，傳播未經同意的色情深度偽造文件是違法行為。 但尼爾森是根據現行的虐待兒童法被起訴的。

史密斯說：”隨著人工智慧影像生成技術的進步，區分不同類型的影像將變得越來越具有挑戰性。是照片還是電腦生成的影像之間的界限將變得模糊。尼爾森所使用軟體的開發公司Daz 3D表示，其用戶許可協議”禁止將其用於製作違反兒童色情或兒童性剝削法律，或對未成年人有害的圖像”，它表示將”致力於不斷提高”其防止軟體被用於此類目的的能力。