網路犯罪分子似乎非常青睞生成式人工智慧。微軟警告稱，這項技術已經發展到這樣的程度：現在只需幾分鐘就能完成網路詐騙，而無需花費數天或數週的時間，幾乎不需要任何技術知識。

微軟在其最新版的網路訊號報告中寫道，人工智慧已經開始降低尋求自身生產力工具的詐欺和網路犯罪行為者的技術門檻。

人工智慧可以用於的網路詐騙範圍非常廣泛。例如，這些工具可以透過掃描和抓取網路資料來建立員工或其他目標的詳細資料，從而幫助創建社交工程誘餌。

還有一些複雜的詐欺案例，利用人工智慧增強的產品評論和人工智慧生成的店面，騙子會創建完整的虛假網站和虛假電商品牌，並偽造業務歷史記錄和客戶評價。騙子甚至可以利用人工智慧來設計客服聊天機器人，謊報無法解釋的費用和其他異常情況。

長期以來，有報道稱，不斷發展的深度偽造技術正使其成為詐騙分子的熱門工具。我們已經看到它被用來製作虛假的名人代言，冒充朋友和家人，甚至像微軟指出的那樣，它還被用於透過視訊通話進行的招募和申請面試。該公司指出，口型同步延遲、機器人語音或奇怪的面部表情都是表明視訊通話另一端的人可能是深度偽造者的跡象。

微軟建議消費者警惕限時優惠、倒數計時和可疑評論。他們還應在購買前仔細檢查網域和評論，並避免使用缺乏詐欺保護的付款方式，例如直接銀行轉帳和加密貨幣支付。

科技支援詐騙也呈上升趨勢。雖然人工智慧並非總是參與其中，但技術支援詐騙者經常偽裝成知名公司的合法IT支援人員，並使用社會工程手段來獲取目標用戶的信任。 Windows「快速助手」工具經常被用於此類詐騙，該工具允許攻擊者使用遠端連接檢視螢幕或接管螢幕來修復問題。因此，微軟正在為「快速助手」添加警告，並要求用戶勾選一個複選框，以確認共享螢幕的安全隱患。微軟也建議在內部技術支援中使用「遠端幫助」而非「快速助手」。

這篇文章雖然聚焦在人工智慧詐騙的危險，但也指出微軟將繼續保護其平台和客戶免受網路犯罪分子的侵害。在2024年4月至2025年4月期間，微軟阻止了價值40億美元的詐欺企圖，拒絕了4.9萬個詐騙合作夥伴註冊，並阻止了每小時約160萬次機器人註冊嘗試。