CNET的人工智慧新聞生成實驗導致維基百科下調其可靠性評級
考慮使用人工智慧產生報導的新聞網站可能需要注意以下警告:CNET於2022年悄悄開始發布錯誤百出、剽竊人工智慧製作的內容,由於其不明智的試驗,維基百科已將其可靠性評級下調。
去年,《未來主義》(Futurism)的一篇報導揭露了CNET 在一些與金融相關的文章中使用了生成式人工智慧,引起了軒然大波。這些文章從2022 年11 月開始出現,標題為”CNET Money Staff”。這聽起來像是由人類創作的,但內容卻是人工智慧生成的,大量錯誤和有時逐字複製其他作者的作品就說明了這一點。
在其行為成為頭條新聞後,CNET 的領導層堅稱,它是”悄悄地”而不是”秘密地”引入人工智慧製作的文章。該技術的使用”暫時”暫停。CNET 所有者Red Ventures 旗下的其他網站也暫停了人工智慧報道。
CNET 使用人工智慧文章的決定所產生的影響至今仍在影響著維基百科,包括在維基百科的”可靠來源/常年來源”頁面上,該出版物之前的”一般可靠”評級已降級為”一般不可靠”。
維基網站上的三個條目顯示,CNET 在2020 年10 月之前排名最高。根據維基網站的說法,這是因為Red Ventures 被收購後編輯標準下降。
從2022 年11 月至今,由於人工智慧生成的文章,CNET 被歸類為”基本上不可靠”。雖然該條目證實它們已經停止,但它聲稱,廣告商驅動的編輯內容仍然令人擔憂–這是指The Verge 在2023 年2 月進行的調查。
2023 年1 月,維基百科的編輯開始討論如何處理CNET。”CNET通常被認為是一個普通的科技[可靠來源],但它已經開始試驗性地運行人工智能生成的文章,這些文章錯誤百出,”CNET的一位編輯大衛-杰拉德(David Gerard)當時寫道。”到目前為止,這項實驗進行得併不順利,因為它本不該如此[……]任何這些進入維基百科文章的文章都需要被刪除。”
其他編輯建議,包括ZDNet 在內的所有Red Ventures 旗下網站的可靠性評級都應下調。不過,ZDNet 在維基百科頁面的”整體可靠”評級仍然是最高的。
CNET 發言人在就維基百科降級一事向Futurism發表的聲明中說:「CNET 是世界上最大的以技術為重點的公正新聞和建議提供者。近30 年來,我們憑藉嚴格的編輯和產品審查標準贏得了人們的信任。必須澄清的是,CNET 並沒有積極使用人工智慧來創建新內容。雖然我們沒有重啟的具體計劃,但未來的任何舉措都將遵循我們的公共人工智慧政策。此外,先前有關迫於壓力撰寫有利於廣告商的報導是不實的,對我們員工的工作和聲譽造成了不公平的影響”。我們堅持我們所做的工作、我們內容的品質和我們員工編輯的誠信。CNET 作為Red Ventures 旗下的一個獨立實體,由獨立的領導團隊領導。”