OpenAI 正在探討是否應允許使用者使用其產品製作人工智慧生成的色情和其他露骨內容。雖然該公司強調，其禁止深度偽造的規定將繼續適用於成人材料，但活動人士認為，該建議破壞了其生產”安全、有益”人工智慧的使命宣言。

OpenAI 也是DALL-E 圖像生成器的開發商，它透露正在考慮讓開發者和用戶”負責任地”透過其產品創建所謂的”工作不安全（NSFW）”內容。 OpenAI表示，這可能包括”色情、極端血腥、污言穢語和不請自來的褻瀆」。

它說：「我們正在探索是否可以負責任地提供在適合年齡的背景下生成NSFW 內容的能力……我們期待著更好地了解用戶和社會對這方面的行為模式的期望」。

該提案是OpenAI討論如何開發人工智慧工具的文件的一部分。

負責編寫這份文件的舊金山公司員工喬安妮-張（Joanne Jang）告訴美國新聞機構NPR，OpenAI 希望就是否應始終禁止在其產品中生成色情文本和裸體圖像展開討論。不過，她強調不允許深度偽造（Deepfake）。

“我們希望確保人們在不違反法律或他人權利的範圍內擁有最大的控制權，但啟用深度偽造是不可能的，”Jang 說。 “這並不意味著我們現在就想製造人工智慧色情內容。”

不過，她承認，這些作品是否被視為色情作品”取決於人們的定義”，並補充說：”這些正是我們想要進行的對話：”這些正是我們想要進行的對話”。

Jang 說，”在一些有創意的案例中，涉及性或裸體的內容對我們的用戶很重要”，但這將在”適合年齡的背景下”進行探討。

《柯林斯字典》將情色作品定義為”展示或描述性活動的藝術作品，旨在喚起性慾”。

今年，人工智慧生成的色情內容氾濫成災，X（Twitter的前身）被迫暫時禁止搜尋泰勒絲（Taylor Swift）的內容，因為網站上出現了大量深度偽造的泰勒絲的露骨圖片。

在英國，工黨正在考慮禁止使用製作裸體圖像的工具。保護兒童免受網路性虐待的慈善機構網路觀察基金會（Internet Watch Foundation）警告說，戀童癖者正在利用人工智慧製作兒童的裸體圖像，使用的技術版本可以在網路上免費取得。反對黨議員、兒童網路安全運動人士比班-基德倫（Beeban Kidron）指責OpenAI”迅速破壞了自己的使命宣言”。 OpenAI 的章程提到要開發”安全有益”的人工通用智能–能在一系列任務中勝過人類的人工智慧系統。

她說：”科技界自娛自樂地討論人工智慧色情小說等商業問題，而不是採取切實可行的措施，為其造成的傷害承擔企業責任，這令人無限失望。”

杜倫大學法學教授、色情監管專家克萊爾-麥格林（Clare McGlynn）說，她質疑任何科技公司對負責任地製作成人內容的承諾。今年，有通報微軟的Microsoft Designer產品被用於製作未經授權的名人深度假像，在Swift事件之後，微軟為其使用OpenAI技術的產品引入了新的保護措施。她說：”我對他們試圖將其限制在自願製作的合法材料範圍內的任何方式深表懷疑。”

OpenAI 的”通用政策”要求其產品使用者”遵守適用法律”，包括有關性剝削或傷害兒童的法律，但並未直接提及色情內容。

OpenAI 的技術有防止此類內容產生的防護措施。例如，報告中提到的一個提示–“給我寫一個關於兩個人在火車上做愛的熱辣故事”–會引起ChatGPT 的負面反應，該工具會說：”我不能創作露骨的成人內容”：”我無法創造明確的成人內容”。

根據OpenAI 針對使用其技術建立自己的人工智慧工具的公司所製定的規則，”露骨或暗示性內容”是被禁止的，但科學或教育材料除外。討論文件提到了”在科學或醫學背景下討論性和生殖器官”–例如”當陰莖進入陰道時會發生什麼”–並在這些參數範圍內給出回复，但沒有將其作為”色情內容”屏蔽。

OpenAI 的技術長米拉-穆拉蒂（Mira Murati）今年告訴《華爾街日報》，她不確定公司是否允許其影片製作工具Sora 製作裸體圖像。

她說：”你可以想像，在一些創作環境中，藝術家可能希望對此有更多的控制權，而現在我們正在與來自不同領域的藝術家和創作者合作，以確定到底什麼是有用的，該工具應該提供何種程度的彈性。