據《紐約時報》今天報導，起訴哥倫比亞航空公司Avianca的律師們提交了一份充滿之前案例的辯護狀，有趣的是這些案例都是ChatGPT一本正經地編造的。在對方律師指出這些不存在的案例後，美國地區法官凱文-卡斯特爾確認，”提交的案例中有六個似乎是假的司法判決，有假的引文和假的內部引用”，並在考慮對原告律師發起制裁時安排了一場聽證會。

律師史蒂芬-A-施瓦茨在一份宣誓書中承認，他曾使用OpenAI的聊天機器人進行研究。為了核實這些案件，他做了唯一合理的事情：他問聊天機器人是否在撒謊。

一張截圖顯示，律師問其中一個引用的案例是否真實，而聊天機器人回答說是，律師接著問：”你的消息來源是什麼？”結果ChatGPT為之前的混亂敘述道歉，並堅持認為該案件是真實的，說可以在Westlaw和LexisNexis上找到。他很滿意，問其他案件是否是假的，ChatGPT堅持認為它們都是真的。

對方律師在敘述Levidow, Levidow & Oberman律師提交的材料是如何充滿謊言的時候，讓法庭意識到了這個問題的細節。在一個例子中，一個名為Varghese v. China Southern Airlines Co., Ltd.的不存在的案例中，聊天機器人似乎參考了另一個真實的案例Zicherman v. Korean Air Lines Co., Ltd.，但把日期（和其他細節）弄錯了，說它是在1996年的原始裁決12年後決定的。

施瓦茨說他”沒有意識到其內容可能是假的”。他現在”非常後悔利用生成性人工智能來補充這裡進行的法律研究，並且在沒有絕對核實其真實性的情況下，今後也不會這樣做。”

施瓦茨沒有被允許在紐約南區執業，但在訴訟被轉移到該法院之前，他最初提出了訴訟，並說他繼續在這方面工作。同一公司的另一名律師彼得-羅杜卡（Peter LoDuca）成為該案的記錄律師，他將不得不在法官面前解釋到底發生了什麼。

這再次凸顯了使用聊天機器人進行研究而不在其他地方對其來源進行雙重（或三重）檢查的荒謬性。微軟的必應首次亮相，現在已經與赤裸裸的謊言、氣話和情感操縱臭名昭著。Google的人工智能聊天機器人Bard在其第一個演示中編造了一個關於詹姆斯-韋伯太空望遠鏡的事實。在今年三月的一個搞笑的例子中，Bing甚至謊稱Bard被關閉了。

法官指出了律師的辯護狀是一個絕對的謊言大會：如果你連字母”e”在番茄醬中出現了多少次都搞不清楚，那麼在模仿書面語言的模式以保持堅定的信心方面做得再好也沒有什麼價值。