近年來，人工智慧圖像生成技術的發展帶來了一個最邪惡的趨勢，那就是可以”脫光”婦女和女孩衣服的網站和應用程式的興起。現在，舊金山市檢察官辦公室正在起訴其中16 個訪問量最大的網站，目的是關閉它們。

這起訴訟是舊金山市首席副檢察官伊馮娜-梅雷（Yvonne Meré）的主意，她曾讀到男孩們使用”裸體化”應用程序將衣著整齊的女同學照片變成假冒色情內容的報道。 《紐約時報》寫道，身為一名16 歲女孩的母親，梅雷希望能為這個問題做點什麼，於是她召集同事起草了一份訴訟，旨在關閉16 個最受歡迎的裸體網站。

申訴書稱，在2024 年的前六個月裡，這些網站的總訪問量達到了2 億次。其中一個脫衣網站打出如此露骨的廣告：”想像一下，當你可以透過[該網站]獲取她的裸體時，你還會浪費時間和她約會嗎？”

市檢察官大衛邱（David Chiu）說，這些網站的人工智慧模型是利用真實的色情圖片和描述虐待兒童的圖片訓練出來的，以製造深度偽造圖片。他補充說，一旦這些圖片流傳開來，幾乎不可能分辨出是哪個網站製作的。

訴訟稱，這些網站違反了州和聯邦報復色情法、州和聯邦兒童色情法以及《加州不正當競爭法》。

“這次調查把我們帶到了互聯網最黑暗的角落，我絕對為那些不得不忍受這種剝削的婦女和女孩感到震驚，”Chiu 在X 上說，”這是一個很大的、多方面的問題，作為一個社會，我們需要盡快解決這個問題。

利用人工智慧在未經本人同意的情況下製作裸體圖像的問題由來已久–2020 年，人們發現Telegram 上的一個深度偽造機器人根據社交媒體上的圖像製作了10 萬多張偽造的女性裸照。

人工智慧生成技術的最新進展加劇了深度偽造問題，使圖片看起來更加逼真。今年1 月，泰勒絲（Taylor Swift）在網路上分享的露骨圖片導緻美國立法者呼籲採取行動，Google也禁止了深度偽造色情和脫衣網站的廣告。

本月早些時候，一項新的兩黨法案提議追究製作未經同意的”數位複製品”的實體的責任。 2024 年《培育原創、培養藝術和確保娛樂安全法案》（NO FAKES Act）將規定，如果個人和公司創建、託管或分享未經同意的人工智能生成的個人音頻或視頻描述，將承擔損害賠償責任。