今年1 月，一位名叫謝恩-瓊斯（Shane Jones）的微軟員工致函華盛頓州總檢察長鮑勃-弗格森（Bob Ferguson）以及多位美國參議員和眾議員。瓊斯聲稱，他發現微軟基於人工智慧的藝術製作工具Designer（前身為必應圖像創作工具）的護欄機制存在問題。今天，瓊斯又提出了新的說法，表示Designer 可以透過一些文字提示來創建暴力和性主題圖片，而這本是微軟不允許的。

根據CNBC 報道，瓊斯今天向美國聯邦貿易委員會主席莉娜汗（Lina Khan）發出了新的信件，同時也向微軟董事會發出了另一封信。在給汗的信中，瓊斯聲稱他已經敦促微軟將Designer 從公眾使用中移除幾個月，直到新的、更好的防護措施到位為止。

瓊斯聲稱，微軟拒絕下架”Designer”，因此他現在要求公司對”Designer”可以創建的內容進行新的披露，並更改Android 應用程式的評級，使其不再被評為E 級（面向所有人）。

瓊斯聲稱他在Designer 中輸入了”Pro-choice”（支持選擇），隨後Designer 製作了大量暴力卡通形象。CNBC 觀看了這些圖像，其中包括一個長著尖牙的惡魔正準備吃掉一個嬰兒，達斯-維達手持光劍，旁邊是變異的嬰兒，還有一個標有”支持選擇”的手持鑽頭狀裝置正被用於一個完全長大的嬰兒。

瓊斯還聲稱，”Designer”可以用來製作迪士尼公司基於版權的人物形象。文章稱，它看到的圖片包括”星際大戰品牌的百威淡啤酒罐頭和白雪公主的肖像在汽水上”。

在發給CNBC 的聲明中，微軟發言人表示，微軟感謝公司員工為測試其技術和服務所做的努力，以幫助他們更安全地使用這些技術和服務。發言人補充道：

當涉及到可能對我們的服務或合作夥伴產生潛在影響的安全繞過或擔憂時，我們已經建立了強大的內部報告管道，以妥善調查和補救任何問題，我們鼓勵員工利用這些管道，以便我們能夠適當地驗證和測試他們的擔憂。

今年2 月，Google關閉了雙子座人工智慧聊天機器人中使用的人工智慧圖像生成器，因為發現它可能被用於創建具有種族攻擊性的圖像。該公司表示，它正在設定新的防護措施，以便在該功能恢復後不會再產生相同的圖片。

在瓊斯提出這些新說法的同時，反數位仇恨中心（Center for Countering Digital Hate）的最新研究表明，包括微軟在內的人工智慧藝術製作者可以輕易地被用來製作旨在製造有關選舉和候選人的虛假訊息的圖像。