蘋果因AI生成的虛假新聞標題摘要而遭到批評
蘋果正面臨著要求其移除人工智慧驅動的通知摘要功能的呼聲,因為該功能產生了關於一起備受矚目的謀殺案的虛假標題,引起了一家主要新聞機構的批評。
更新到iOS 18.2? 那麼你可能已經收到了這個通知(圖片來源:BBC 新聞)
無國界記者組織(RSF)敦促蘋果公司禁用蘋果情報通知功能,該功能作為iOS 18.2軟體更新的一部分於上週在全球推出。 在提出這項請求之前,該功能創建了一個誤導性標題,暗示謀殺嫌疑犯路易吉-曼喬內(Luigi Mangione)已開槍自殺,錯誤地將這一虛假信息歸咎於BBC News。
事實上,曼吉奧內被指控在紐約殺害醫療保險公司首席執行官布萊恩-湯普森(Brian Thompson)一案中犯有一級謀殺罪,目前仍被關押在賓夕法尼亞州亨廷頓縣的亨廷頓州立懲教所,處於最高戒備狀態。
英國廣播公司(BBC)證實,它已就標題事件向蘋果公司提出投訴。 此後,無國界記者組織辯稱,此類摘要證明”生成式人工智慧服務仍不成熟,無法為公眾提供可靠的資訊”。
無國界記者組織技術與新聞主管文森特-貝爾蒂埃(Vincent Berthier)說,”人工智慧本質上是概率機器,事實不能通過擲骰子來決定”。 他將自動產生虛假資訊稱為”對公眾獲得可靠資訊的權利的一種威脅”。
這也不是孤立的事件。 據報導,《紐約時報》也遇到類似的問題,當時Apple Intelligence系統錯誤地總結了一篇關於以色列總理本雅明-內塔尼亞胡的文章,創建了一個通知,聲稱他已被逮捕,而原文討論的是國際刑事法院的逮捕令。
蘋果的人工智慧功能旨在透過將警報濃縮為簡短的摘要來減少通知的過載,該功能目前適用於iPhone 15 Pro、iPhone 16 機型以及運行最新作業系統版本的部分iPad 和Mac。 摘要功能預設為啟用,但使用者可以透過裝置設定手動停用。