據外媒報導，日前，舊金山宣布了一個“消除偏見的工具”，該工具通過使用基礎AI技術自動編校警方報告中的信息從而識別出嫌疑人的種族。這麼做則是為了防止檢察官在決定某人是否被控犯罪時受到種族偏見的影響。

資料圖

據悉，該套工具計劃在7月1日投入使用。

據舊金山地區檢察官辦公室介紹稱，該工具不僅可以刪掉種族描述，還可以刪掉眼睛、顏色和頭髮顏色等描述。那些可能有意或無意地向檢察官透露嫌疑人有某種種族背景的人名、地點和社區也會被刪掉。

舊金山地區檢察官George Gascón在今天的新聞發布會上說道：“看看這個國家被監禁的人，有色人種的男女比例將不成比例。”他指出，當看到像Hernandez這樣的名字時，檢察官立即就會知道這個人是拉美裔，而這可能會影響結果。

另外，這套工具還會刪掉警察的詳細信息，這樣做則是為了防止檢察官認出是自己認識的人，進而可能影響他們的判斷。

據了解，這套工具由Alex Chohlas-Wood和來自斯坦福計算政策實驗室的團隊共同開發，他們此前還曾幫助紐約警察局開發過可以自動搜索案件文件已發現犯罪模式的Patternizr系統。Wood指出，新工具只是一個輕量級的web應用，其使用數種算法自動編輯警察報告，另外還會通過使用計算機視覺功能識別報告中的單詞並將其替換為通用版本。

Wood表示，目前這個工具已經進入了最後開發階段，它將在未來幾週開放源代碼。據其介紹，工具使用了一種名為命名實體識別(name -entity recognition)的特殊技術。

至於這個新工具是否真的有幫助則還有待觀察，畢竟現在AI更出名的好像是引入偏見而不是消除偏見。