微軟新的AI編輯在識別有色人種出現失誤為轉載文章配上錯誤圖片
在過去的十年裡,各種科技行業都在頌揚人工智能的優點及其在人類未來的地位。不幸的是,並不是所有的好處都平等地延伸到了每個人身上,最近微軟的一次失誤再次凸顯了人工智能對有色人種的持續盲點。最近幾個月,美國發生了數名有色人種被警察殺害的事件,導致全美各地爆發抗議示威遊行。微軟新的人工智能發佈軟件推送了一篇報導,涉及種族主義對雙性戀歌手Jade Thrilwall的個人影響,但卻出現了錯誤的混血表演者的照片。
雖然這篇報導是關於Jade和她對種族主義的反思,但特寫的圖片卻是樂隊成員Leigh-Anne Pinnock,英國女團Little Mix的另一位混血歌手。雖然根據Jade的說法,這顯然是一個重複發生的事件,Jade在社交媒體上特別指出微軟的失誤。
“@MSN 如果你要復制粘貼其他精準媒體的文章,你可能要確保你使用的是正確的混血成員的圖像。”
“這一直發生在@leighannepinnock和我身上,它已經成為一個運行的笑話,”她說。”這讓我很不爽,你不能在一個組合的四個成員中區分出兩個有色人種的女性……做得更好!”
這一失誤發生在微軟正在解僱數百名人類編輯人員,以支持自己的人工智能編輯平台的消息發布後的幾天。儘管科技行業對人工智能的發展信心滿滿,但在涉及有色人種時,這款軟件的關係依然不穩定,有報導稱,最好的算法也難以平等地識別黑人面孔,甚至微軟自己的人工智能機器人Tay也使用了種族歧視的言辭,將黑人比作猴子。
當《衛報》鑑於其最近的編輯部縮編而面對這篇文章時,微軟發言人回應說:”當我們意識到這個問題後,我們立即採取行動解決,並已更換了錯誤的圖片。”遺憾的是,微軟的AI編輯錯誤似乎並沒有讓該公司暫停繼續轉變新的新聞發布流程,相反,剩下的員工正在被指示清理其AI替換造成的混亂。
因為他們無法阻止新的機器人編輯從《衛報》等外部新聞網站上選擇故事,所以剩下的人類員工被告知要保持警惕,如果機器人認為這篇文章是感興趣的,並自動在MSN.com上發布,那麼他們就要刪除這篇文章的一個版本。他們還被警告說,即使他們刪除了它,機器人編輯也可能會否決他們,並試圖再次發布它。