AI寫旅遊攻略出大笑話微軟撤下文章但歸咎於“人為錯誤”
上周微軟從旗下微軟旅遊平台上撤下了一系列用“算法技術”創作的文章。但微軟表示,這些文章不是“人工智能在沒人管的情況下”發布的,主要在於“人為錯誤”。無論如何,這些錯誤讓媒體人更擔心生成式人工智能對新聞報導的影響。
最近“微軟旅遊”發布的一系列文章,其中包括一篇奇怪的建議。文中建議去渥太華的遊客一定要去當地慈善機構渥太華食品銀行(Ottawa Food Bank,為經濟有困難人士發放食品的慈善組織),並“建議空腹前往”。
現在這篇文章已經刪除。其中建議稱,“前往渥太華?這是你不應該錯過的!”科技評論員帕里斯·馬克思(Paris Marx)發現後,將其作為人工智能失敗的例子分享後迅速走紅。對於這篇文章的在線討論以及明顯冒犯性的建議,促使微軟發布了一份聲明,將責任歸咎於人類。
微軟發言人表示:“這篇文章已被刪除,我們確定問題是由人為錯誤引起的。這篇文章不是由無人監督的人工智能發布的。我們將技術力量與內容編輯的經驗相結合,呈現故事。在這種情況下,內容是通過算法技術與人工審查相結合生成的,並非大型語言模型或人工智能係統。我們正在努力確保今後不會發布此類內容。”
按照微軟的說法,這篇文章的問題不在於人工智能,而在於人類,只是內容編輯犯了一個錯誤,而是人都會犯錯。
如果只有那篇文章出了問題,儘管問題嚴重,我可能會更容易接受這種觀點。實際上,情況並非如此。至少還有幾篇文章提出了同樣荒謬但不那麼冒犯的旅行建議。
有一篇文章叫《在你的蒙特利爾之旅中嚐嚐這些令人垂涎欲滴的菜餚》,文中提到了“漢堡包”,並像維基百科一樣描述,雖然“漢堡包”一詞可以用於任何類型的肉餅,但文中的“漢堡包”特指“由碎牛肉餅、某種麵包片和生菜、番茄、奶酪等組成的三明治”。文章還將加拿大的麥當勞列為一個受歡迎的旅行地點。那篇文章後來也被刪除了。
另一篇文章則寫道,“要去安克雷奇嗎?這裡有6種當地美食,”其中包括“海鮮”。文中事無鉅細地描述了一番海鮮的定義:“基本上是任何被人類視為食物的海洋生物,主要包括魚類和貝類。”文中還說:“海鮮是一種多用途的食材,所以我們在世界各地都吃海鮮是有一定道理的。”這篇文章也同樣被刪除了。
還有一篇文章是關於“東京16個最值得拍照的景點!”。但其中莫名其妙地出現了一張題為“吃和牛”的幻燈片。這篇文章也已被下架。
如果像公司所說的那樣,這些文章不是由“無人監督的人工智能”發布的,那麼為什麼會發生這種情況呢?
微軟涉足新聞業已經有年頭了。自1995年以來,微軟一直運營著新聞聚合器(現在名為Microsoft Start,之前是Microsoft News和MSN News),從各種出版物中獲取新聞鏈接。但在2020年,有爆料稱微軟正在裁減幾十名外包員工,從人工管理轉向人工智能驅動的系統。
顯然,微軟押注人工智能是新聞聚合的未來。現在看來,微軟似乎有點過於自信,認為人工智能可以完成編寫內容的工作。根據平台上的文章,微軟現在的人工干預似乎非常少,也毫無用處。
這讓人感到有些不安。一方面是這表明微軟雖然與新聞業有長期聯繫,但已經忽視了人的作用,以至於事件發酵後才開始密切關注這一問題。另一方面,微軟並沒有對大部分文章進行審核。
微軟發言人則表示,公司只會對建議去渥太華食品銀行的文章發表評論,而不會對其他被刪除的文章發表評論,也不會對那些被刪除文章的審核過程發表評論。
微軟在文章中犯的錯誤符合其他媒體發佈人工智能輔助文章的模式,其中存在明顯的錯誤。但是,諸如“漢堡”或者“海鮮”那些本身不包含實際“錯誤”的文章呢?當熱度消退後,平台還會繼續發表這類文章嗎?
希望這只是個愚蠢的錯誤。希望微軟以及其他科技巨頭不要認為從事新聞行業的人的工作可以被人工智能發表的不連貫文章所取代。(辰辰)