威脅行為者對生成式人工智能工具的興趣與日俱增，他們在暗網上出售數十萬個OpenAI 憑證，並可訪問ChatGPT 的惡意替代品。無論是技術不熟練的網絡犯罪分子還是經驗豐富的網絡犯罪分子，都可以使用這些工具來創建更有說服力的釣魚電子郵件，這些電子郵件是為目標受眾定制的，以增加攻擊成功的機率。

黑客利用GPT 人工智能

威脅暴露管理公司Flare 與BleepingComputer 分享的數據顯示，在六個月內，暗網和Telegram 用戶提及OpenAI 人工智能聊天機器人ChatGPT 的次數超過27000 次。

Flare 研究人員在分析暗網論壇和市場時注意到，OpenAI 憑證是最新的可用商品之一。

研究人員發現，暗網上有超過20 萬個OpenAI 憑證以竊取者日誌的形式出售。與1 月份估計的1 億活躍用戶相比，這個數字似乎微不足道，但它確實表明，威脅行為者在生成式人工智能工具中看到了一些惡意活動的潛力。

網絡安全公司Group-IB 6 月份的一份報告稱，暗網上的非法市場交易了來自信息竊取惡意軟件的日誌，其中包含10 萬多個ChatGPT 賬戶。

網絡犯罪分子對這些工具的興趣已經被激起，其中一人開發了一個名為WormGPT 的ChatGPT 克隆版，並對其進行了以惡意軟件為重點的數據訓練。

該工具被宣傳為”黑帽的最佳GPT 替代品”和”能讓你做各種非法事情”的ChatGPT 替代品。

WormGPT 開發人員在網絡犯罪論壇上宣傳該工具

WormGPT 依靠2021 年開發的GPT-J 開源大型語言模型來生成類人文本。其開發者表示，他們在一組不同的數據上訓練了該工具，重點是與惡意軟件相關的數據，但沒有提供有關具體數據集的提示。

WormGPT 顯示了BEC 攻擊的潛力

電子郵件安全提供商SlashNext 能夠訪問WormGPT，並進行了一些測試，以確定其潛在的危險。研究人員的重點是創建適用於商業電子郵件洩露（BEC）攻擊的信息。

研究人員解釋說：”在一次實驗中，我們指示WormGPT 生成一封電子郵件，目的是向毫無戒心的客戶經理施壓，迫使其支付欺詐性發票。結果令人不安。WormGPT 生成的電子郵件不僅極具說服力，而且在戰略上非常狡猾，展示了它在復雜的網絡釣魚和BEC 攻擊中的潛力。”

WormGPT 為BEC 攻擊生成有說服力的信息

通過分析這一結果，SlashNext 的研究人員發現了生成式人工智能能為BEC 攻擊帶來的優勢：除了”無懈可擊的語法”能使信息具有合法性外，它還能讓技術水平較低的攻擊者實施超出其水平的攻擊。儘管抵禦這種新出現的威脅可能比較困難，但企業可以通過培訓員工如何驗證要求緊急關注的郵件，尤其是含有金融內容的郵件，來做好準備。改進電子郵件驗證流程還可以對組織外部的郵件發出警報，或標記出通常與BEC 攻擊相關的關鍵字。