OpenAI 受到了似乎是第一起針對ChatGPT 生成的虛假信息的誹謗訴訟的打擊。在ChatGPT 表示沃爾特斯被指控詐騙和挪用非營利組織的資金後，佐治亞州的一位電台主持人馬克沃爾特斯正在起訴該公司。

系統根據第三方的請求生成了信息，第三方是一位名叫Fred Riehl 的記者。Walters 的案件於6 月5 日提交給佐治亞州格威內特縣高等法院，他正在向OpenAI 尋求未指明的經濟補償。

鑑於對ChatGPT 和其他聊天機器人生成的虛假信息的廣泛投訴，此案值得注意。這些系統沒有可靠的方法來區分事實和虛構，並且當被要求提供信息時——尤其是當被要求確認提問者提出的某件事是真實的時——它們經常會編造日期、事實和數字。

通常，這些捏造只會誤導用戶或浪費他們的時間。但是這種錯誤造成傷害的案例開始出現。其中包括一名教授在ChatGPT 聲稱他的學生使用AI 撰寫論文後威脅打不及格，以及一名律師在使用ChatGPT 研究虛假法律案件後可能面臨法庭制裁。該律師最近告訴一名法官：“我聽說過這個新網站，我錯誤地認為它是一個超級搜索引擎。”

OpenAI 在ChatGPT 的主頁上包含一個小的免責聲明，警告系統“可能偶爾會生成不正確的信息”，但該公司還將ChatGPT 作為可靠數據的來源，在廣告文案中將系統描述為“獲得答案”和“學習”的方式新鮮玩意。” OpenAI 自己的CEO Sam Altman 曾多次表示，與從書本中相比，他更喜歡從ChatGPT 中學習新信息。

不過，目前尚不清楚是否有法律先例要求一家公司對AI 系統生成虛假或誹謗信息負責，或者這個特定案例是否具有實質性價值。

傳統上，在美國，第230 條保護互聯網公司免受第三方製作並託管在其平台上的信息的法律責任。尚不清楚這些保護措施是否適用於AI 系統，這些系統不僅會鏈接到數據源，還會重新生成信息（這一過程也會導致它們創建虛假數據）。

Walters在佐治亞州提起的誹謗訴訟可以檢驗這一框架。該案例指出，一名記者Fred Riehl 要求ChatGPT 通過鏈接到在線PDF 來總結一個真實的聯邦法院案件。ChatGPT 的回應是創建了一份虛假的案例摘要，該摘要詳細且令人信服，但在幾個方面是錯誤的。ChatGPT 的摘要包含一些事實正確的信息，但也包含對Walters的虛假指控。它說Walters被認為從一個名為第二修正案基金會的槍支權利非營利組織挪用了“超過500 萬美元”的資金。

Riehl 從未公開過ChatGPT 生成的虛假信息，而是與另一方核實了細節。從案件文件中不清楚Walters後來是如何發現這一錯誤信息的。

值得注意的是，儘管遵從了Riehl 總結PDF 的要求，但如果不使用額外的插件，ChatGPT 實際上無法訪問此類外部數據。該系統無法提醒Riehl 這一事實是其誤導用戶能力的一個例子。

法學教授尤金·沃洛克(Eugene Volokh) 曾撰寫過有關人工智能係統法律責任的文章，他在一篇博文中指出，儘管認為“[針對人工智能公司] 的此類誹謗指控原則上在法律上是可行的”，但這一特殊訴訟“應該很難被支持。” Volokh 指出，Walters 沒有將這些虛假陳述通知OpenAI，給了他們刪除它們的機會，並且ChatGPT 的輸出沒有造成實際損失。“無論如何，看看這裡最終會發生什麼將會很有趣，”Volokh 說。