NVIDIA超級GPU、超級CPU合體還集成了“網卡”
NVIDIA今天同時發布了新一代Hopper H100 GPU核心、Grace CPU處理器,還把二者放在了一張卡上,命名為“ Grace Hopper ”,官方稱之為密度最高達到加速計算系統。兩顆芯片並排放置,彼此之間通過NVLink總線進行芯片間通信,帶寬達900GB/s。
具體規格暫未公佈,但應該做不到同時滿血,尤其是Hopper GPU。
Grace CPU基於ARMv9架構指令集設計,72個核心,集成198MB緩存,搭檔LPDDR5X內存,支持ECC。
Hopper GH100 GPU 18432個CUDA核心、576個Tensor核心、60MB二級緩存、6144-bit HBM2e/HBM3顯存位寬。
H100計算卡則只開啟了16896個CUDA核心、528個Tensor核心、50MB二級緩存、5120-bit HBM3顯存位寬,Grace Hopper卡上大概率也是這個規格。
這種合體“怪物”有啥用?顯然也是做HPC、AI計算,CPU、GPU可以協調分配不同負載,達到效率最大化。
同時,NVIDIA還發布了“Grace CPU SuperChip”,單卡整合兩顆Grace CPU。
NVLink C2C互連,總計144個核心、396MB緩存、1TB/s LPDDR5X ECC內存,功耗500W。
另外還有“H100 CNX”,同時集成H100 GPU、CX-7 SmartNIC網絡芯片。
通過讓GPU直連網絡消除系統帶寬,支持PCIe 5.0,最高支持7個多GPU實例並發。