機器人法務應用DoNotPay，剛剛推出了一項名為Photo Ninja的新功能，旨在通過輕微地修改用戶照片，以使人工智能應用程序無法辨識用戶的身份。DoNotPay聲稱該功能可防止用戶在線上傳的照片被用於惡意目的，且一切都可自動化完成。只需交納3美元的月費，即可在上傳照片給DoNotPay後、隱秘地摻入可讓面部識別工具產生困惑的信息。

作為一種“對抗示例”，其利用了破壞AI 行為的特殊手段。隨著人工智能角色的不斷發展、以及潛在威脅和破壞隱私技術的持續開發，該領域也日漸被研究人員所重視。

DoNotPay 表示：“Photo Ninja 使用了一系列新穎的隱匿寫入、檢測擾動、可見疊加、以及其它幾種基於AI 的增強過程，以保護用戶圖像不受反向搜索的影響，同時不會對圖像外觀造成損壞”。

據悉，經過訓練的AI 系統，能夠對圖片展開像素級的數據分析。而對抗性示例的出現，又可基於足夠細微的像素顏色更改來欺騙它們。

儘管人眼看不出差別，但計算機卻無法像通常那樣對其展開正確的分析，從而將之理解為兩幅完全不同的圖像。

舉個例子，用戶可在向線上約會平台提交個人資料照片時通過Photo Ninja 的預處理，以便阻止他人通過TinEye、Clearview AI 和谷歌的以圖搜圖功能，來檢索相關的圖片和社交媒體資料信息。

此外許多零售商和警察機構依賴於從互聯網上蒐集的圖片數據庫來尋找犯罪嫌疑人，但常常因為識別不准確而鬧出烏龍並引發了極大的爭議。