Google的人工智慧計畫現在包括網路安全業務讓威脅報告更容易閱讀
當人們試圖為生成式人工智慧找到更多的用途時,Google計畫將人工智慧應用於網路安全領域,讓威脅報告更容易閱讀。 Google在一篇部落格文章中寫道,它的新網路安全產品”Google威脅情報”將把其Mandiant網路安全部門和VirusTotal威脅情報部門的工作與Gemini人工智慧模型結合起來。
新產品使用了Gemini 1.5 Pro 大型語言模型,Google稱該模型縮短了惡意軟體攻擊逆向工程所需的時間。該公司稱,今年2 月發布的Gemini 1.5 Pro 只用了34 秒就分析了WannaCry 病毒(2017 年勒索軟體攻擊,導致全球醫院、公司和其他組織陷入癱瘓)的代碼,並識別出一個殺毒開關,這令人印象深刻,但不足為奇,因為大語言模型向來擅長閱讀和編寫程式碼。
不過,Gemini 在威脅領域的另一個可能用途是將威脅報告總結為威脅情報內部的自然語言,以便公司可以評估潛在攻擊可能對其造成的影響,或者換句話說,這樣公司就不會對威脅反應過度或反應不足。
Google表示,”威脅情報”還擁有龐大的資訊網絡,可在攻擊發生前監控潛在威脅。它可以讓使用者看到網路安全的全貌,並優先關注哪些方面。 Mandiant 提供監控潛在惡意群組的人工專家和與公司合作阻止攻擊的顧問。 VirusTotal 社群也會定期發布威脅指標。
2022 年,Google收購了揭露2020 年SolarWinds針對美國聯邦政府的網路攻擊的網路安全公司Mandiant。
該公司還計劃利用Mandiant 的專家來評估人工智慧專案的安全漏洞。透過Google的安全人工智慧框架,Mandiant 將測試人工智慧模型的防禦能力,並協助進行紅隊工作。雖然人工智慧模型可以幫助總結威脅和逆向工程惡意軟體攻擊,但模型本身有時也會成為惡意行為者的獵物。這些威脅有時包括”資料中毒”,即在人工智慧模型抓取的資料中添加不良程式碼,使模型無法回應特定提示。
《猩球崛起4:新世界》7分鐘加長版片段曝光Google並不是唯一一家將人工智慧與網路安全結合的公司。微軟推出了由GPT-4 和微軟專門針對網路安全的人工智慧模型支援的Copilot for Security,讓網路安全專業人員可以提出有關威脅的問題。雖然這兩者是否真的是生成式人工智慧的良好用例還有待觀察,但能看到它除了用於拍攝白衣翩翩的教皇的照片外還能用於其他方面,那還是很不錯的。