歐盟委員會今天宣布，根據更新現有立法以跟上技術發展步伐的計劃，人工智慧生成的圖像和其他形式的描述兒童性虐待（CSA）的深度偽造行為可能會在歐盟被定為犯罪。歐盟也提議將直播兒童性虐待行為定為新的刑事​​犯罪。根據該計劃，擁有和交換”戀童癖手冊”也將被定為刑事犯罪–歐盟稱這是更廣泛的一攬子措施的一部分，旨在加強對兒童性虐待的預防，包括提高對網絡風險的認識，使受害者更容易報案和獲得支持（包括賦予他們獲得經濟賠償的權利）。

歐盟在這一領域的現行規則可追溯到2011 年，更新這項規則的提案還包括強制通報違法行為的修改。

早在2022 年5 月，委員會就提交了一份單獨的CSA 相關立法草案，旨在建立一個框架，規定數位服務必須使用自動技術來檢測和報告其平台上流傳的現有或新的兒童性虐待材料（CSAM），並識別和報告針對兒童的誘拐活動。

事實證明，CSAM 掃描計劃極具爭議性–它繼續分裂著議會和歐盟理事會的立法者，同時也引發了人們對歐盟委員會與兒童安全技術遊說者之間關係的懷疑，並給歐盟行政部門帶來了其他尷尬問題，例如為推廣該提案而進行的微目標廣告宣傳在法律上就存在問題。

歐盟委員會決定優先針對數位資訊平台來解決CSA 問題，這招致了許多批評，認為歐盟的立法者在解決這一複雜的社會問題時專注於錯誤的領域–這可能對歐盟委員會提出後續建議產生了一些壓力。 (當然，歐盟委員會並沒有這麼說，而是稱今天的一攬子方案是對其早先提出的CSAM 掃描提案的”補充”）。

儘管如此，即使在有爭議的私人資訊掃描計劃提出不到兩年的時間裡，人們對深度偽造和人工智慧生成圖像的風險的關注度也在大幅上升，包括擔心這種技術被濫用於生產CSAM，以及擔心這種合成內容會使執法部門在識別真正受害者時面臨更大的挑戰。因此，人工智慧生成技術的病毒式蓬勃發展顯然促使立法者重新審視相關規則。

委員會在今天的新聞稿中提出：”兒童上網人數的增加和技術的發展都為虐待行為創造了新的可能性。”委員會還表示，該提案旨在”減少網路兒童性虐待和性剝削普遍存在的有罪不罰現象”。

委員會在提交提案前進行了一項影響評估，認為兒童上網人數的增加和”最新的技術發展”為CSA 的發生創造了新的機會。委員會還表示，它擔心成員國法律框架的差異會阻礙打擊虐待行為的行動，並希望改進目前”有限的”預防CSA 和援助受害者的工作。

內政事務專員伊爾娃-約翰松（Ylva Johansson）在一份支持性聲明中補充說：”快速發展的技術為在線兒童性虐待創造了新的可能性，也為執法部門調查這種極其嚴重和廣泛的犯罪帶來了挑戰。強有力的刑法是必不可少的，今天我們邁出了關鍵的一步，以確保我們擁有有效的法律工具來拯救兒童並將犯罪者繩之以法。我們正在兌現我們在2020 年7 月提出的《歐盟更有效打擊兒童性虐待戰略》中所做的承諾”。

關於兒童的網路安全風險，委員會的提案旨在鼓勵成員國加大對”提高認識”的投入。

與CSAM 掃描計劃一樣，歐盟議會和理事會的共同立法者將決定提案的最終形式。而在議會選舉和今年稍後重啟專員委員會之前，談判的時間有限，儘管今天的CSA 打擊提案可能會比資訊掃描計劃更不容易引起分歧。因此，在另一項計劃停滯不前的情況下，這項計劃有可能獲得通過。

根據歐盟委員會的說法，如果/一旦就如何修訂現行的打擊CSA 指令達成一致，該指令將在歐盟官方公報上公佈20 天後生效。