微軟已經對一個團體採取了法律行動，該公司聲稱該團體故意開發並使用工具繞過其雲端人工智慧產品的安全護欄。根據該公司於12 月向美國維吉尼亞州東區地方法院提交的一份訴狀，一個由1​​0 名未具名被告組成的團體涉嫌使用竊取的客戶憑證和定制設計的軟體入侵Azure OpenAI 服務，該服務是由ChatGPT製造商OpenAI 的技術提供支援的微軟全面管理服務。

在訴狀中，微軟指控被告（微軟僅稱其為”Does”，法律上的化名）違反了《電腦詐欺和濫用法》、《數位千禧年版權法》和聯邦勒索法，非法存取和使用微軟的軟體和伺服器，以”創建攻擊性”和”有害的非法內容”。 微軟沒有提供所產生的辱罵性內容的具體細節，該公司正在尋求禁令和”其他公平”救濟以及損害賠償。

微軟在訴狀中稱，它於2024 年7 月發現，擁有Azure OpenAI 服務憑證（特別是API 金鑰，即用於驗證應用程式或用戶的唯一字串）的客戶被用於產生違反該服務可接受使用政策的內容。 隨後，透過調查，微軟發現這些API 金鑰是從付費客戶那裡竊取的。

“被告獲得用於實施本起訴書所述不當行為的所有API 金鑰的確切方式尚不清楚，”微軟在起訴書中寫道，”但被告似乎參與了一種系統性的API 金鑰盜竊模式，使他們能夠從多個微軟客戶那裡竊取微軟API 金鑰。

微軟指控被告使用竊取的屬於美國客戶的Azure OpenAI 服務API 金鑰，創建了一個”駭客即服務”計劃。 根據訴狀，為了實施這項計劃，被告創建了一個名為de3u 的客戶端工具，以及用於處理和路由de3u 與微軟系統之間通訊的軟體。

微軟稱，De3u 允許用戶利用竊取的API 金鑰，在無需編寫自己的程式碼的情況下，使用DALL-E 產生映像，DALL-E 是Azure OpenAI 服務客戶可用的OpenAI 模型之一。 根據起訴書，De3u 還試圖阻止Azure OpenAI 服務修改用於生成圖像的提示，例如，當文字提示中包含觸發Microsoft 內容過濾的單字時，就可能發生這種情況。

微軟訴狀中的De3u 工具截圖。圖片來源：微軟

包含de3u 專案程式碼的repo 託管在GitHub（微軟擁有的公司）上，截至記者發稿時已無法存取。

“這些功能與被告對Azure OpenAI 服務的非法程序化API 訪問相結合，使被告能夠通過逆向工程手段規避微軟的內容和濫用措施，”訴狀中寫道。 “被告明知故犯，在未經授權的情況下訪問了Azure OpenAl 服務保護的計算機，並因此造成了損害和損失。”

在周五發布的部落格文章中，微軟表示，法院已授權其查封一個對被告的運營”至關重要”的網站，這將使該公司能夠收集證據，破解被告被指控的服務是如何盈利的，並破壞其發現的任何其他技術基礎設施。

微軟還表示，它已經”採取了應對措施”（該公司沒有具體說明），並針對其觀察到的活動向Azure OpenAI 服務”添加了額外的安全緩解措施”。