本月，ChatGPT 推出了一種新的圖像生成器，作為其4o 模型的一部分，該模型在生成圖像內的文字方面做得更好。 人們已經在利用它來產生假的餐廳收據，這可能會為詐欺者使用的已經很廣泛的AI 深度偽造工具包添加另一種工具。

創投家Deedy Das在X 上發布了一張舊金山一家（真正的）牛排館的假收據照片，他說這張收據是用4o 製作的。

其他人也能夠複製類似的結果，包括帶有食物或飲料污漬的結果，以使其看起來更加真實：

最真實的例子實際上來自法國，一位LinkedIn 用戶發布了一張由人工智慧生成的當地連鎖餐廳的皺巴巴的收據：

TechCrunch 對4o 進行了測試，並成功產生了舊金山一家Applebee’s 的假收據：

幾個明顯的跡象表明它是偽造的。首先，總數用逗號代替了句號。其次，數學加起來不準確。大模型仍然很難做對基本的數學問題，所以這並不奇怪。

但對於詐欺者來說，使用照片編輯軟體或更精確的提示來快速修復一些數字並不難。

顯然，讓偽造收據變得如此簡單，為詐欺提供了巨大的機會。不難想像，這種技巧會被不法分子用來「報銷」完全虛假的費用。

OpenAI 發言人Taya Christianson表示，其所有圖像都包含元數據，表明它們是由ChatGPT 製作的。 Christianson 補充說，當用戶違反其使用政策時，OpenAI 會“採取行動”，並且它“一直在從現實世界的使用和反饋中學習”。

當被問到為什麼ChatGPT 允許人們產生虛假收據，以及這是否符合OpenAI 的使用政策（禁止詐欺）。克里斯蒂安森回答說，OpenAI 的“目標是給予用戶盡可能多的創作自由”，並且偽造的AI 收據可用於非欺詐場合，例如“向人們傳授金融知識”以及創作原創藝術品和產品廣告。