用“AI換臉技術”合成淫穢視頻，收費供他人觀看，甚至根據顧客的需要使用不同的女明星形象進行“私人定制”，以及通過出售“換臉軟件”非法獲利。“長三角政商”欄目2023年4月10日曾報導的男子用“AI換臉技術”合成淫穢視頻出售非法牟利案有了最新進展。

澎湃新聞6月20日從杭州蕭山區檢察院獲悉，除了此前以涉嫌製作、傳播淫穢物品牟利罪對被告人虞某某提起公訴外，該院在審查時發現，被告人不僅涉嫌刑事犯罪，同時還存在損害社會公共利益的行為。對此，該院正式依法向杭州互聯網法院提起民事公益訴訟。

據介紹，2020年，虞某某從互聯網接觸到“AI換臉”軟件及技術，並通過學習掌握了該軟件的使用方法。2021年開始，虞某某以牟利為目的，在未取得被編輯人同意的情況下，利用上述“AI換臉”軟件，將從互聯網等渠道收集到的他人人臉信息與部分淫穢視頻中的人臉信息進行替換合成，製作生成虛假的換臉淫穢視頻，在網絡社交軟件上進行傳播並獲利。截至案發，公安機關共在虞某某所組建的公開群內查獲淫穢視頻1200餘部、圖片1600餘張。

2022年11月30日，公安機關以涉嫌傳播淫穢物品牟利罪將虞某某移送蕭山區檢察院審查起訴。該院在審查時發現，虞某某不僅涉嫌刑事犯罪（目前已對虞某某以製作、傳播淫穢物品牟利罪提起公訴），同時還存在損害社會公共利益的行為。

經查，虞某某在使用“AI換臉”技術製作淫穢視頻的同時，還為他人提供換臉視頻定制服務，即根據客戶提供的視頻或照片，製作換臉視頻。此外，虞某某還在網絡社交軟件上銷售“AI換臉”軟件、提供換臉素材並傳授使用教程。

檢察機關認為，人臉信息作為敏感個人信息，對於保障公民人身財產安全具有重要意義，應當依法受到嚴格保護。本案中，虞某某從互聯網公共空間非法獲取眾多人臉信息，利用“AI換臉”等深度合成技術非法處理、製作淫穢視頻後，在超過2000人的網絡社交軟件群組傳播，同時提供換臉視頻定制服務，使不特定群體成為潛在的被侵害對象，違反了法律法規和社會公德，混淆社會公眾認知，污染社會風氣，侵害了承載在不特定多數社會主體個人信息之上的公共信息安全，破壞社會公共秩序，構成對公共信息安全領域的社會公共利益侵害；除此之外，虞某某在明知他人可能將“AI換臉”軟件用於侵犯個人信息等不正當目的的情況下，仍向他人銷售“AI換臉”軟件、提供換臉素材並傳授使用教程，使得更多不特定主體個人信息被侵害的社會危險性進一步擴大。虞某某的行為違反了《中華人民共和國民法典》《個人信息保護法》等相關法律規定，應當承擔相應的民事責任。

鑑於此，在依法履行訴前公告程序、無適格主體提起訴訟請求後，蕭山區檢察院於6月9日向杭州互聯網法院提起民事公益訴訟，請求判令被告停止侵權，刪除持有的所有涉案個人信息，不得再違法使用深度合成技術侵害社會公益；支付公益損害賠償金人民幣60000元（專門用於個人信息保護、人臉深度合成技術應用的治理等公益事項）；在國家級媒體上向社會公眾公開賠禮道歉。

“人臉信息與個人的隱私權、名譽權、財產權等多種權益關係緊密，屬於敏感個人信息，從司法實踐來看，人臉信息的不正當使用將對社會公眾的人身和財產安全帶來重大風險，一旦造成侵害往往是長久的、持續的、難以彌補的。”承辦該案的檢察官說，近年來，利用“AI換臉”技術製作換臉視頻，繞過人臉識別系統監管從而實施詐騙、盜竊等犯罪的情形時有發生。可以說，“AI換臉”技術在灰色領域甚至違法犯罪領域的濫用，給社會公眾帶來了極大危害。“我們希望通過該案的辦理，能夠進一步震懾犯罪分子，也提醒廣大群眾，在使用新興技術時，不能忘記法律的規制、道德倫理的約束，這是所有技術發展應有的邊界。”