聯邦調查局以刑事指控逮捕了一名男子，因為他涉嫌使用人工智慧生成兒童性虐待圖像，然後發送給未成年人。檢方稱，來自威斯康辛州霍爾門市的42 歲男子史蒂文-安德雷格（Steven Anderegg）涉嫌使用文字到圖像生成人工智慧模型Stable Diffusion 製作”數千張青春期前未成年人的逼真圖像”。

司法部在周一的一份公告中說：”這些圖像中有許多描繪了裸體或半裸的未成年人淫蕩地展示或觸摸自己的生殖器，或與男性發生性關係。從安德雷格的電子設備中找到的證據顯示，他利用與未成年人有關的特定、露骨的文字提示生成了這些圖片，然後將其存儲在自己的電腦中。

據稱，他隨後與一名15 歲的男孩進行了交流，描述了自己創建圖片的過程，並透過Instagram 的直接訊息向他發送了幾張人工智慧生成的未成年圖片。在一些資訊中，安德雷格告訴Instagram 用戶，他使用Telegram 發佈人工智慧生成的CSAM。法庭記錄指控說：”他透過Instagram 和Telegram 積極建立了一個由臭味相投的犯罪者組成的在線社區，在這個社區裡，他可以炫耀他對未成年人的淫穢描繪，並與這些其他犯罪者討論他們對兒童的共同性興趣。性虐待的興趣。

這標誌著聯邦調查局首次指控某人利用人工智慧製作兒童性虐待材料。

今年3 月，威斯康辛州警方指控安德雷格兩項”讓兒童接觸有害材料”的罪名，以及另一項”與13 歲以下兒童發生性接觸”的罪名，但他拒絕認罪。根據福布斯當時的報道。警長的副手在一份宣誓書中說，安德雷格在網上接受其他人的請求，生成青少年的人工智能圖像，現今人工智能色情市場已經成為濫用圖像製造商的大生意.

公告指出，安德雷格之所以落網，是因為Instagram 向國家失踪與被剝削兒童中心報告了他的帳戶傳播圖片的行為。

法庭記錄稱，”他的筆記型電腦裡有13000 多張GenAI 圖像，其中數百張（如果不是數千張的話）描繪了未成年裸體或半裸的未成年人淫蕩地展示或觸摸自己的生殖器。還有一些圖片描繪了未成年少女觸摸看似成年男性的陰莖或進行性交的畫面。的’負面’提示，即指導GenAI 模型在生成的內容中不包含哪些內容的提示，以避免生成描繪成年人的圖像”。

先前媒體報導了Stable Diffusion生成兒童性虐待材料的能力，以及生成式人工智慧公司承認其用戶可能使用其工具製作CSAM 的情況，儘管官方已經使用”負面提示”來避免創建成人人工智慧圖像的情況。這個案例證明了網路虐童問題專家幾個月前警告過的問題，當時LAION-5B 資料集被發現包含疑似兒童性虐待影像。專家曾警告：即使在人工智慧生成的圖像中無法識別真實的兒童，性剝削者也可能利用生成的圖像來誘騙真實的兒童。

首席副助理司法部長Nicole M. Argentieri 在聯邦調查局的新聞稿中表示：「今天的公告傳達了一個明確的訊息：使用人工智慧製作兒童色情圖片是非法的，司法部將毫不猶豫地追究那些擁有、製作或傳播人工智慧生成的兒童性虐待材料的人的責任。

安德雷格被聯邦拘留，等待定於5 月22 日舉行的拘留聽證會。