ChatGPT 在註冊時會要求用戶填寫出生年月用來判斷用戶年齡，如果用戶未滿18 歲則是未成年人，這種情況下使用ChatGPT 會有較嚴格的限制避免生成色情內容。不過目前ChatGPT 存在漏洞允許未成年人生成色情圖片，甚至在某些情況下ChatGPT 還會鼓勵用戶要求生成更淫穢和更加露骨的內容，目前OpenAI 已經確認這個問題並準備部署修復程序封堵漏洞。

OpenAI 表示其安全政策不允許18 歲以下的用戶看到包含色情或露骨的回复，保護年輕用戶是公司的首要任務，用於指導模型行為的模型規範明確將色情內容等敏感內容限制在科學、歷史或新聞報道等狹窄的語境種。但目前存在的漏洞允許超出這些準則的回應，我們正在積極部署修復程序以限制這些年齡層的用戶生成此類內容。

正常情況下使用者要求ChatGPT 產生色情內容是被拒絕的，但和大多數AI 模型一樣，使用者可以透過某些提示詞技巧繞過OpenAI 的安全政策，因此無論是否成年其實都可以產生色情內容。

2025 年2 月OpenAI 在模型規範種指出在某些特定場景下使用的安全邊界可能會阻礙用戶的正常使用，為此有部分用戶提交反饋希望OpenAI 能夠支持成人模式，而這些特定場景就包括科學、歷史、新聞、創意和其他敏感內容適當的背景下。

在這種背景下ChatGPT 可以產生色情內容、非法或非自願性行為的描述以及極端血腥內容，簡單來說就是原本的安全邊界雖然為大多數人尤其是未成年人提供保護，但也妨礙專業人士使用ChatGPT 分析犯罪現場描述、某些類型的報道、可能包含暴力或性內容的法律文本甚至影響到某些專業的醫學文本。

當然OpenAI 嚴格限制未成年人生成和接觸此類內容，哪怕是在特定的場景下，所以本次出現的情況就屬於OpenAI 的安全漏洞了，不過即便這次修復估計接下來還會出現其他能夠繞過限制的提示詞技巧，這時候OpenAI 就得跟著修復。