OpenAI 已經開發出一種工具，有可能抓住那些透過要求ChatGPT 撰寫作業來作弊的學生–但根據《華爾街日報》報道，該公司正在討論是否真的要發布這種工具。在一份聲明中，OpenAI 發言人證實該公司正在研究《日報》報道中描述的文本水印方法，但表示由於”涉及的複雜性及其可能對OpenAI 以外的更廣泛生態系統產生的影響”，該公司正在採取一種”深思熟慮的方法”。

發言人說：”我們正在開發的文本水印方法在技術上很有前途，但在研究替代方法的同時，我們也在權衡其中的重要風險，包括容易被不懷好意者規避，以及可能對非英語使用者等群體造成不成比例的影響。

這將是一種不同於以往大多數檢測人工智慧生成文字的努力的方法，因為這些努力基本上都是無效的。由於”準確率較低”，OpenAI 甚至在去年關閉了之前的人工智慧文字偵測器。

在文字浮水印方面，OpenAI 將只專注於偵測ChatGPT 中的文字，而不是其他公司的模型。為此，OpenAI 將對ChatGPT 選取文字的方式進行微小改動，從而在文字中創建一個隱形浮水印，隨後再由單獨的工具進行檢測。

在報告發表後，OpenAI 也更新了5 月的一篇博文，介紹了其圍繞檢測人工智慧生成的內容所進行的研究。更新內容稱，文字浮水印已被證明”高度準確，甚至能有效抵禦本地化篡改，如轉述”，但已被證明”對全球化篡改的魯棒性較差，如使用翻譯系統、用另一個生成模型重新措辭，或要求模型在每個單字之間插入一個特殊字符，然後刪除該字符”。

因此，OpenAI 寫道，這種方法”很容易被濫用者規避”。 OpenAI 的更新也回應了發言人關於非英語使用者的觀點，認為文字浮水印可能會”玷污人工智慧作為非英語母語使用者的有用寫作工具的使用。”

了解更多：