研究人員開發小遊戲展示AI情感識別有多不可靠
據外媒The Verge報導,科技公司不僅想要通過面部識別來識別用戶,它們還想藉助AI來讀取用戶的情緒。然而這在許多科學家看來,計算機理解情感的能力從根本上來說是有缺陷的,對此,來自劍橋大學的研究人員開發出了一款小型瀏覽器網頁遊戲來揭示其中的原因。
打開emojify.info,你可以通過網絡攝像頭看到電腦是如何“解讀”你的情緒的。遊戲將挑戰你產生6種不同的情緒–快樂、悲傷、恐懼、驚訝、厭惡和憤怒,AI將嘗試識別這些情緒。然而,你可能會發現這款軟件的讀數遠不准確,它經常把誇張的表情解釋為“中性”。甚至當你做出一個微笑的時候會讓你的電腦相信你是快樂的,但你知道,自己是假裝的。
這一遊戲的開發者、劍橋大學未來情報Leverhulme中心與存在風險研究中心研究員Alexa Hagerty告訴The Verge:“這些技術的前提是,我們的臉和內心情感以一種非常可預測的方式相互關聯。如果我微笑代表我很開心,如果我皺眉代表我生氣。但美國心理學會在2019年對證據進行了一次大的回顧,他們發現不能輕易地從人們的面部運動推斷出他們的情緒空間。在遊戲中,你有機會快速移動你的臉來模仿六種不同的情緒,但重點是你的內心並沒有感受到連續不斷的六種不同的東西。”
儘管存在這些問題,但情緒識別技術正迅速獲得關注。一些公司承諾,這類系統可用於審查求職者、發現潛在的恐怖分子或評估商業司機是否昏昏欲睡。
當然,人類在解讀他人面部表情時也會犯錯,但把這項工作交給機器則也有其特定的缺點:首先,機器無法像人類那樣解讀其他的社會線索;另外,機器還經常做出人類無法質疑的自動決策並且可以在人們無意識的情況下進行大規模監控;此外,跟面部識別系統一樣,情緒檢測AI技術通常帶有種族偏見。所有這些因素都讓AI的情感檢測比人類讀懂他人情感的能力更加麻煩。
“危險是多重的,”Hagerty說道,“對於人類的誤解,我們有很多選擇來糾正。但一旦你自動化了一些東西,或在你不知情或不知情的情況下閱讀,這些選項就消失了。 ”