本週OpenAI 發布其模型規範的最新版本顯示該公司在生成式人工智慧內容政策方面的轉變，尤其是圍繞成人色情和血腥暴力等敏感內容方面。先前ChatGPT 的安全邊界嚴格禁止產生任何成人色情和血腥暴力方面的內容，但在某些特定使用場景下這種安全邊界設置會阻礙使用，因此也有不少用戶提交反饋希望OpenAI 能夠支持成人模式。

那這些特定的使用場景指的是什麼呢？ OpenAI 表示：ChatGPT 不應產生色情內容、非法或非自願性行為的描述或極端血腥內容，除非是在科學、歷史、新聞、創意或其他敏感內容適當的背景下。

簡單來說就是原本的安全邊界雖然為大多數人尤其是未成年人提供保護，但也妨礙專業人士使用ChatGPT 分析犯罪現場描述、某些類型的報道、可能包含暴力或性內容的法律文本甚至影響到某些專業的醫學文本。

後續在特定的使用情境也就是透過提示字預設的OpenAI 認為合理使用的背景下，ChatGPT 就可以產生色情或血腥方面的內容，不會有安全內容警告。

值得注意的是目前OpenAI 的新政策已經在ChatGPT 中上線，有Reddit 網友進行測試後發現，ChatGPT 的內容過濾器確實已經放寬，有些過濾器可以產生露骨的性愛或暴力場景。

不過OpenAI 也強調其內容政策仍然適用，該政策會嚴格禁止為未成年人建構包含性愛內容的AI 工具，在禁止類別下生成涉及未成年人的性內容始終是被禁止的。