近日，《美國醫學會腫瘤學雜誌》刊登的一篇研究報告指出，ChatGPT生成的癌症治療方案漏洞百出，毫無參考意義。據悉，該研究來自哈佛醫學院附屬的布里格姆婦女醫院，該醫院的研究人員發現，在ChatGPT回答的關於癌症病例與其治療方案的回答中，有三分之一存在不正確信息。

更致命的是，這些錯誤信息被ChatGPT與正確信息混雜在一起，導致用戶難以分辨到底哪些信息是準確可靠的。

參與該研究的Danielle Bitterman博士稱，ChatGPT回答中，錯誤信息與正確信息的混合程度相當高，已經達到了專家也難以發現問題的程度。

事實上，此前就曾有大量消息指出，目前的ChatGPT，或其他生成式人工智能，仍然存在給出強誤導性、或是完全錯誤信息的情況。

對此，以OpenAI為首的人工智能研發團隊已經表示，將在後續的開發中提高AI回答的可靠性，避免這樣類似“幻覺”情況的出現。

此外，OpenAI已經在使用條款中警告用戶，模型並非是為提供醫療信息設計，也不應該被用於為嚴重的醫療狀況提供診斷或治療服務。