微軟推新工具:可掃描聊天應用以尋找潛在兒童性侵者
微軟週四發布了一個新工具,這個工具可以掃描在線聊天記錄以尋找想要性侵兒童的人。科技行業正在致力於打擊網上兒童罪案,微軟此舉也是出於這個目的。這項服務的代號為“阿耳特彌斯項目”(Project Artemis),可以掃描歷史聊天記錄以發現潛在的兒童性侵者。
該工具以微軟的一項專利為基礎,這項專利技術可以利用歷史聊天數據來給網上對話給出概率評級,使用該工具的公司可以通過這種評級來確定是否該對網上對話進行人工審查。
多年以來,微軟一直都在使用這項技術監控Xbox平台上的聊天內容,而目前這家科技巨頭正在考慮將Project Artemis整合到Skype等其他聊天服務中。
“’阿耳特彌斯項目’是向前邁出的重要一步,但絕不是什麼’靈丹妙藥’。”微軟數字安全主管考特尼·格雷瓜爾(Courtney Gregoire)發表博文稱。“網上兒童性剝削和虐待以及網上兒童性誘拐的探測都是重要的問題,但我們並沒有被這類問題的複雜性所嚇倒。“
微軟與Meet Group、Roblox、Kik和Thorn合作開發了這個工具,目前正在向具有聊天功能並使用Thorn的第三方在線服務提供“阿耳特彌斯項目”。Thorn是個非營利組織,旨在開發技術來保護兒童免受性虐待,該組織將在本週開始把這項技術授權給其他服務。微軟PhotoDNA工具背後的學者哈尼·法里德(Hany Farid)領導了“阿耳特彌斯項目”的開發工作,PhotoDNA工具的功能是掃描圖像以尋找兒童性剝削的證據。