NVIDIA數據中心專用處理器揭秘:一顆DPU頂替125顆x86 CPU
當地時間週一,NVIDIA(NVIDIA)在線上召開了GTC 2020大會,NVIDIACEO黃仁勳再一次在自家的廚房發布了多款新的硬件產品,其中就包括全新的可軟件定義的數據中心專用處理器DPU(Data Processing Unit)及其生態產品路線圖,並且宣布將在服務器市場力推ARM架構,以期在利潤最豐厚的服務器處理器市場取得更大市場份額。
過去多年來,GPU芯片一直是NVIDIA的主打產品,並且被大量應用在圖形處理等領域。但近年來,它們也被大量應用於人工智能訓練領域,幫助提高人工智能對於圖像識別等任務的速度。這些芯片通常安裝在Intel中央處理器旁邊,幫助加速人工智能相關工作的計算。而現在,NVIDIA計劃通過全新的可軟件定義的數據中心專用處理器DPU來取代Intel的CPU。
黃仁勳表示:“數據中心已成為新型計算單元。在現代化、安全的加速數據中心中,DPU已成為其重要的組成部分。CPU、GPU和DPU的結合,可構成完全可編程的單一AI計算單元,提供前所未有的安全性和算力。”
根據計劃,NVIDIA將在2021年,推出兩款DPU芯片:BlueField-2和BlueField-2X。
其中,BlueField-2集成了8顆64位ARM-Cortex A72內核,擁有2個超長指令字(VLIW)加速引擎,集成NVIDIA Mellanox ConnectX-6 Dx NIC(智能網卡),可提供兩個100Gb/s的網絡通道,並加速關鍵的數據中心安全性、網絡和存儲任務,其中包括隔離、信任根、密鑰管理、RDMA/RoCE、GPU Direct、彈性塊存儲、數據壓縮等。
據介紹,經過優化的BlueField-2 DPU可從CPU上卸載關鍵的網絡、存儲和安全任務,使企業能夠將其IT基礎設施轉變為最先進的數據中心。此類數據中心可實現加速、具有完全可編程性,並具有“零信任”安全功能,防止數據洩露和網絡攻擊。
在性能方面,NVIDIA稱,一顆BlueField-2 DPU可以提供相當於125顆x86 CPU處理器所能提供的數據中心服務。
值得一提的是,BlueField DPU脫胎於NVIDIA以69億美元收購的Mellanox公司時獲得的智能網絡芯片SmartNIC技術,Mellanox其與ARM公司(NVIDIA已經宣布以400億美元收購)的處理器IP結合,形成了BlueField IPU,兼顧了軟件定義解決方案的速度和靈活性,並且提高了安全性、加速了性能並改善了效率。第一代的BlueField IPU芯片已經在2019年正式發布。BlueField-2 DPU則是似乎在Mellanox於今年3月宣布的BlueField-2 IPU 基礎上進化而來。
而後續將推出的BlueField-2X DPU將具備BlueField-2 DPU的全部關鍵特性。同時,還將可應用於數據中心安全、網絡和存儲任務的NVIDIAAmpere GPU集成在一個系統中,可採用AI進行實時安全分析,包括識別提示竊取機密的異常流量、線速加密流量分析、惡意活動的主機自檢、以及動態的安全編排自動化響應(SOAR)。
NVIDIA企業計算負責人Manuvir Das表示,在BlueField-2X加入GPU就是為了人工智能應用的加速。
據介紹,BlueField-2 DPU目前可提供樣品,預計2021年將在領先服務器製造商的新系統中使用。BlueField-2X DPU正在開發中,預計將在2021年上市。
隨後,在2022年,NVIDIA將推出BlueField-3及BlueField-3X,這些DPU都會與NVIDIA的GPU整合在一個系統當中,不過在器件上仍然是分離的。而2023年推出BlueField-4,將會真正的以SoC的形式集成在一起,成為真正的片上數據中心處理器。
而在算力方面,NVIDIA表示,BlueField-4將是BlueField-2的600倍。NVIDIA喊出的這個數據聽起來真的是有些太“飄”了!
除了公佈多款可軟件定義的數據中心專用DPU產品之外,NVIDIA還推出了基於DPU的軟件生態架構DOCA(Data-Center-Infrastructure-On-A-Chip Architecture)。NVIDIA企業計算負責人Manuvir Das將DOCA比作服務器領域的CUDA(統一計算設備架構)。
CUDA是一種由NVIDIA推出的通用並行計算架構,該架構使GPU能夠解決複雜的計算問題。它包含了CUDA指令集架構(ISA)以及GPU內部的並行計算引擎。開發人員可以使用C語言來為CUDA架構編寫程序。而CUDA架構也正是NVIDIA近年來在GPU以及人工智能領域獲得成功的關鍵。
據介紹,NVIDIA全新推出的DOCA架構基於開放的API,如用於數據包處理的P4,用於網絡的DPDK,用於存儲的SPDK,CUDA和NVIDIAAI。DOCA可以與主要的OS和虛擬機管理程序無縫兼容、集成,而為DOCA編寫的程序可以BlueField-2 DPU 以及未來所有版本上運行。
NVIDIA表示,包括華碩、源訊、戴爾技術、富士通、技嘉科技、新華三、浪潮、聯想、云達科技和超微等在內的服務器廠商,都計劃將NVIDIA的DPU產品整合到自家的服務器產品之中。
此外,NVIDIA還在這次大會上推出了僅59美元的邊緣計算套件NVIDIA Jetson NANO,以及包括Omniverse、Maxine在內的多款軟件工具,並宣布與葛蘭素史克共建英國史上最強大的超級計算機Cambridge-1。
從NVIDIA近年的佈局來看,從傳統的GPU圖形處理器產品,轉向以CUDA架構為基礎的人工智能計算產品,為NVIDIA帶來了巨大的成功。2019年NVIDIA斥資69億美元收購Mellanox正是為了進一步進軍數據中心市場做準備。要知道Mellanox的太網產品和InfiniBand智能互連解決方案在數據中心市場擁有很大的市場份額。根據NVIDIA的說法,Mellanox的這些產品被用於世界上一半以上最快的超級計算機和許多領先的超大規模數據中心。
今年NVIDIA再度斥資400億美元對ARM的收購,其真正的目的可能也正是為了在利潤豐厚的數據中心市場與Intel進行正面競爭。
此次,全新的BlueField DPU和DOCA架構的推出,則正是NVIDIA在數據中心市場對Intel發起正面挑戰的開始。
值得注意的是,在宣布收購ARM之後,黃仁勳曾公開表示,NVIDIA“有可能”推出自己的ARM服務器CPU芯片。
在GTC 2020主題演講的最後,NVIDIACEO黃仁勳強調:“ARM是世界上最受歡迎的CPU,我們將共同向ARM生態系統提供NVIDIA加速器和人工智能計算技術。”
同時,黃仁勳宣布了一項推進ARM平台的重大舉措,NVIDIA正在向以下三個方面進行投資:首先,NVIDIA將在GPU、網絡、存儲和安全技術方面對合作夥伴ARM進行補充,打造完整的加速平台;其次,NVIDIA正與ARM一同合作,為高性能計算、雲端、邊緣和PC應用開發平台;第三,NVIDIA正在將NVIDIA AI和NVIDIA RTX引擎遷移至ARM。
黃仁勳說:“今天,這些功能只能在X86上使用,但有了這些舉措,ARM平台也將成為加速計算領域和人工智能計算領域的前沿!”