韓國警方擬開發新系統打擊深度偽造
韓國多名官員2日說,警方將投資91億韓元(約4500萬元)開發一個可以查出深度偽造文件和虛假信息的系統,以應對涉及人工智能生成圖像和聲音的犯罪案件激增的狀況。

韓聯社引述官員的話報道,警方計劃開發一個使用多模態演算法的系統,透過分析噪音和聲音頻率查出深度偽造影片和人工智慧產生的聲音,並可追蹤到網路資訊來源,以便能在早期階段應對和阻止假新聞和錯誤訊息的傳播。開發工作預計2027年12月完成。
警方希望該系統有助於大幅縮短辨別深度偽造視訊和音訊片段所需的時間。
2024年前10個月,韓國警方逮捕了573名深度偽造資訊相關犯罪的嫌疑人,案件數量達1094起,其中不少受害者未成年。
深度偽造指用人工智慧技術製作看起來真實度很高的影片、圖片或音訊片段,這種技術可將色情影像中的人變成他人模樣。