據《連線》(Wired)雜誌報導，去年年底，互聯網基礎設施公司Cloudflare的安全工程師David Haynes發現自己正盯著一張奇怪的圖像。“那純粹是胡言亂語，”他說。“一大堆灰黑色的像素，由機器製造出來的。”他拒絕分享圖片，稱這將是一個安全風險。Haynes的謹慎是可以理解的。這張圖片是由一個名為Mayhem的工具創建的，該工具可以探測軟件以發現未知的安全漏洞，由卡內基梅隆大學的衍生創企ForAllSecure製作。

Haynes一直在Cloudflare軟件上進行測試，該軟件可以調整圖片的大小以加快網站的速度，並向它提供了幾張照片樣本。Mayhem將它們變異成了一些不正常的的圖片，通過觸發一個不被注意到的bug，使照片處理軟件崩潰，這個漏洞可能會給付費給Cloudflare以保持網站正常運行的客戶帶來問題。

此後，Cloudflare將Mayhem作為其安全工具的標準配置。美國空軍、海軍和陸軍也使用了它。上個月，五角大樓授予ForAllSecure一份4500萬美元的合同，讓Mayhem在整個美軍中推廣使用。該部門有大量的Bug可供查找。2018年的一份政府報告發現，國防部在2012年至2017年期間測試的幾乎所有武器系統都存在嚴重的軟件漏洞。

Mayhem還不夠精密，不足以完全取代人類漏洞查找員的工作，他們利用軟件設計知識、代碼閱讀技巧、創造力和直覺來尋找漏洞。但ForAllSecure聯合創始人兼CEO David Brumley表示，該工具可以幫助人類專家完成更多的工作。世界上的軟件有更多的安全漏洞，專家們沒有時間去發現，而每分鐘都有更多的漏洞出現。“安全並不在於是否安全或不安全，而在於你的行動速度有多快。”Brumley說。

Mayhem起源於2016年在拉斯維加斯一家賭場舉行的一場不尋常的黑客大賽。數以百計的人到場觀看由五角大樓的研究機構Darpa主辦的網絡大挑戰賽。但舞台上沒有一個人，只有七台電腦服務器。每台服務器上都有一個機器人，它試圖發現並利用其他服務器的漏洞，同時也發現並修補自己的漏洞。8個小時後，由Brumley所帶領的卡內基梅隆大學安全實驗室團隊製作的”Mayhem “獲得了200萬美元的最高獎項。

目前仍是卡內基梅隆大學教授的Brumley說，這段經歷讓他相信，他的實驗室創造的東西在現實世界中可以派上用場。他拋開了團隊的機器人的進攻能力，認為防禦更重要，並著手將其商業化。“網絡安全挑戰賽( Cyber​​ Grand Challenge)表明，完全自主安全是可能的。”他說。“計算機可以做得相當不錯。”

以色列等國政府都提出了合同，但ForAllSecure與美國政府簽約。它得到了國防創新部門的合同，這是五角大樓的一個小組，試圖將新技術快速引入美軍。ForAllSecure受到了挑戰，通過尋找美軍使用的軍用變體商用客機的控制軟件中的漏洞來證明Mayhem的能力。在幾分鐘內，這個自動黑客就發現了一個漏洞，該漏洞隨後被飛機製造商驗證並修復了。

Mayhem發現的其他漏洞還包括今年早些時候在數百萬台網絡設備中使用的OpenWRT軟件中發現的一個漏洞。去年秋天，該公司的兩名實習生從Netflix的漏洞賞金計劃中獲得了一筆獎金，因為他們利用Mayhem發現了軟件中的一個漏洞，該軟件可以讓人們將視頻從手機發送到電視上。

Brumley表示，汽車和航空航天公司對這個工具的興趣特別濃厚。汽車和飛機對軟件的依賴性越來越強，而這些軟件需要多年的可靠運行，而且很少更新。

Mayhem只針對基於Linux操作系統的程序，發現漏洞的方式有兩種，一種是隨機的，另一種更有針對性。第一種稱為模糊測試，它涉及到用隨機生成的輸入（如命令或照片）轟炸目標軟件，並觀察是否有觸發可利用的漏洞。第二種被稱為符號執行，涉及到創建一個目標軟件的簡化數學表示。可以對這個被簡化的替身進行分析，以確定真實目標中的潛在弱點。

近幾年來，模糊測試工具在計算機安全領域的應用越來越廣泛。去年，谷歌發布了一個模糊測試工具，並表示已經在其Chrome瀏覽器中發現了16000多個Bug。但Cloudflare公司的Haynes表示，該技術在行業內仍未得到普遍使用，因為模糊測試工具通常需要對每個目標程序進行太多仔細的調整。他說，ForAllSecure精心打造的Mayhem更具適應性，讓Cloudflare可以更常規地使用模糊測試。Haynes說，符號執行可以找到更複雜的Bug，之前主要是在研究實驗室中使用。

亞利桑那州立大學教授Ruoyu Wang希望Mayhem只是計算機安全領域更自動化的未來的開始，但他說，這將需要bug查找機器人與人類進行更多的合作。

Mayhem表明，自動化可以做有用的工作，Wang說，但現有的自動尋找漏洞的機器人在復雜的互聯網服務或軟件包中不能起到多大的作用。最好的軟件還遠遠不能像人類那樣聰明到理解程序的意圖和功能。Mayhem比任何人類更快地嘗試很多不同的東西的能力都無法替代。“很多自動查找漏洞的難點問題，現在還遠遠沒有解決。”Wang說。

Wang曾是一個名為Mechanical Phish的團隊的一員，該團隊在2016年Darpa錦標賽上獲得了第三名。他現在正在從事該機構的一個名為CHESS的新研究項目，試圖製造出更強大的Bug查找軟件。“現在，最先進的自動化不知道什麼時候會遇到障礙，”Wang說。“它應該意識到這一點，並向人類諮詢。”