檢測CSAM的兒童安全演算法NeuralHash可能被操縱? 蘋果回應:非同個版本
開發者通過逆向編譯,發現蘋果用於檢測 iCloud 照片中是否存在兒童性虐待材料 (CSAM) 的 NeuralHash 演算法存在漏洞,可能會被駭客利用。 開發者 Asuhariet Yvgar 表示,他對隱藏代碼的 iOS 14.3 中的 NeuralHash 演算法進行了逆向工程,並用 Python 重新構建了它。
經過深入調查研究之後,他發現存在一個衝突可能,即兩個不匹配的圖像共用相同的哈希值的問題。 安全研究人員對這種可能性發出了警告,因為潛在的碰撞可能使 CSAM 系統被利用。
在給Motherboard的一份聲明中,蘋果表示Yvgar逆向工程的NeuralHash版本與將用於CSAM系統的最終實現不同。 蘋果還表示,它已將該演算法公開以供安全研究人員驗證,但還有第二個私有伺服器端演算法可以在超過閾值後驗證 CSAM 匹配,以及人工驗證。
然而,蘋果在一封電子郵件中告訴Motherboard, 使用者在 GitHub 上分析的那個版本是一個通用版本,而不是用於 iCloud 照片 CSAM 檢測的最終版本。 蘋果表示,它還公開了該演算法。
蘋果在一份支持文檔中寫道:”NeuralHash 演算法 […] 作為簽名操作系統代碼的一部分 [並且] 安全研究人員可以驗證它的行為是否符合描述”。 蘋果還表示,在用戶通過 30 個匹配閾值後,運行在蘋果伺服器上的第二個非公開演算法將檢查結果。