微軟和OpenAI稱多國駭客正利用ChatGPT改進網路攻擊
微軟和OpenAI 今天透露，駭客已經在使用ChatGPT 等大型語言模型來完善和改進他們現有的網路攻擊。在最新發布的研究報告中，微軟和OpenAI 發現俄羅斯、北韓、伊朗和中國支持的組織試圖利用ChatGPT 等工具研究目標、改進腳本並協助建立社交工程技術。
微軟在今天的一篇部落格文章中說：「網路犯罪集團、民族國家威脅行動者和其他對手正在探索和測試新出現的各種人工智慧技術，試圖了解它們對其行動的潛在價值以及它們可能需要規避的安全控制。”
與俄羅斯軍事情報機構有關聯的”鍶”組織被發現使用LLMs”了解衛星通訊協定、雷達成像技術和特定技術參數”。該駭客組織也被稱為APT28 或Fancy Bear，在俄羅斯的烏克蘭戰爭期間一直很活躍，此前曾參與2016 年針對希拉蕊-柯林頓總統競選活動的攻擊。
據微軟稱，該小組還一直在使用LLM 來幫助完成”基本的腳本任務，包括文件操作、數據選擇、正則表達式和多進程處理，以實現技術操作的自動化或優化”。
一個名為Thallium 的北韓駭客組織一直在使用LLMs 來研究公開報導的漏洞和目標組織，幫助完成基本的腳本任務，並為網路釣魚活動起草內容。微軟稱，名為Curium 的伊朗組織也一直在使用LLMs 產生網路釣魚電子郵件，甚至是用來躲避防毒軟體偵測的程式碼。與中國政府有關的駭客也正在使用LLMs 進行研究、編寫腳本、翻譯和改進現有工具。
人們一直擔心在網路攻擊中使用人工智慧，特別是出現了像WormGPT 和FraudGPT 這樣的人工智慧工具來協助創建惡意電子郵件和破解工具。美國國家安全局的一位高級官員上個月也警告說，駭客正在利用人工智慧讓他們的釣魚郵件看起來更有說服力。
微軟和OpenAI 尚未發現任何使用LLMs 的”重大攻擊”，但這兩家公司已經關閉了與這些駭客組織相關的所有帳戶和資產。微軟表示：「同時，我們認為這是一項重要的研究，透過發布來揭露我們觀察到的知名威脅行為者試圖採取的早期、漸進式行動，並與防禦者社群分享我們如何阻止和反擊這些行動的訊息。”
雖然目前人工智慧在網路攻擊中的應用似乎還很有限，但微軟對未來的使用案例（如語音冒充）發出了警告。 “人工智慧驅動的詐欺是另一個令人嚴重關切的問題。語音合成就是一個例子，三秒鐘的語音樣本就能訓練出一個聽起來像任何人的模型，即使是像語音郵件問候語這樣無害的東西，也可以用來獲得足夠的樣本。”
微軟的解決方案是利用人工智慧來應對人工智慧攻擊。 「人工智慧可以幫助攻擊者提高攻擊的複雜程度，而且他們有足夠的資源來應對。」微軟首席偵測分析經理霍馬-海蒂法（Homa Hayatyfar）說。 “我們已經從微軟追蹤的300 多個威脅行為體身上看到了這一點，我們使用人工智慧來保護、偵測和應對。”
微軟正在打造一款新的人工智慧助理Security Copilot，專為網路安全專業人士設計，用於識別漏洞並更好地理解每天透過網路安全工具產生的大量訊號和資料。在Azure 雲端遭受重大攻擊，甚至俄羅斯駭客監視微軟高層之後，這家軟體巨頭也在全面整頓其軟體安全機制。
了解更多：