OpenAI 正在更廣泛地推出其最新的文本到圖像生成器。本週四，該公司將向ChatGPT Plus 和企業客戶提供可在ChatGPT 應用程式中使用的新DALL-E 3 模型。OpenAI 表示，它已經為該模型準備好了安全緩解堆疊，使其可以擴大發布範圍。

DALL-E 3 在上個月首次發布，OpenAI 展示了它是如何改進之前的DALL-E 2 的，允許用戶利用ChatGPT 編寫更長、更具視覺描述性的提示語，供圖像生成器使用。DALL-E 3 被添加到必應聊天和必應圖像生成器中，使微軟的平台成為第一個向公眾提供更廣泛模型訪問的平台–甚至早於ChatGPT。

廣告中宣傳的減少有害影像的防護措施並不總是有效，使用者在生成世貿中心圖像時，出現海綿寶寶和其他角色駕駛飛機沖向大樓。即使微軟曾經嘗試封鎖了某些提示，其他簡單的變通方法也產生了類似的結果。文字轉影像產生器，如Midjourney、Stable Diffusion 和較早的DALL-E 版本都曾引發爭議。該技術曾輸出過版權圖片資料、未經同意的裸體、改變主題的種族以及對公眾人物的照相寫實歪曲。OpenAI 承諾這次將採取更廣泛的措施，並提供了一個網站來展示《DALL-E 3》所做的研究。該公司表示，它將”限制模型生成在世藝術家風格內容和公眾人物形象的可能性，並改善生成圖像的人口統計代表性”。OpenAI 還擁有一個內部”出處分類器”工具，該工具稱其檢測影像是否由《DALL-E 3》產生的準確率高達99%。