AI專家呼籲必須停止對面部識別預測犯罪算法的研究
由人工智能研究人員、數據科學家和社會學家組成的聯盟,呼籲學術界停止發表聲稱利用面部掃描和犯罪統計等訓練算法來預測個人犯罪的研究。關鍵技術聯盟表示,這樣的工作不僅在科學上是盲目的,而且延續了對黑人和有色人種偏見的循環。許多研究表明,司法系統對待這些群體比白人更嚴厲,所以任何在這些數據上訓練的軟件只是放大和鞏固社會偏見和種族主義。
他們表示,沒有辦法開發一個能夠預測或識別沒有種族偏見的犯罪預測系統,因為犯罪這個類別本身就有種族偏見。這種性質的研究,以及隨之而來對準確性的宣稱,建立在這樣的假設之上,即有關刑事逮捕和定罪的數據可以作為潛在犯罪活動的可靠、中立指標。然而這些記錄遠非中立。
關鍵技術聯盟撰寫的一封公開信是針對全球最大學術書籍出版商施普林格計劃出版這樣一份研究報告的消息而起草的。這封信目前已經有1700名專家簽名,呼籲施普林格撤銷該論文,並呼籲其他學術出版商今後不要出版類似的作品。
這份報告名為”利用圖像處理預測犯罪行為的深度神經網絡模型”,在其中研究人員聲稱已經創建了一個面部識別系統,能夠以80%的準確率預測某人是否可能成為罪犯,並且沒有種族偏見,根據一份現已被刪除的新聞稿。該論文的作者包括博士生、前紐約警局警官喬納森-W-科恩。
據《麻省理工科技評論》報導,針對這封公開信,施普林格表示不會發表這篇論文,論文是提交給一個即將召開的會議,施普林格曾計劃為其出版論文集。經過全面的同行評審程序,該論文被拒絕了。