AI是當前的熱點，現在也成了NVIDIA最受人關注的部分，今天在台北電腦展的主題演講上，NVIDIA又發布了針對AI推出的大內存DGX GH200超算系統，配備了256個Grace Hopper芯片，總計1.8萬CPU核心，144TB內存，相比之前漲了500倍。

AI運算對內存容量的要求更高，所以DGX GH200通過最新的NVLink、NVLink Switch等技術連接了256塊Grace Hooper超級芯片，實現了極為誇張的性能及內存。

Grace Hooper我們之前報導過，這是一塊CPU+GPU合體的超級芯片，CPU是NVIDIA自研的72核處理器，Neoverse V2內核，擁有480GB LPDDR5內存，512GB/s帶寬。

GPU部分是H100，FP64性能34TFLOPS，但更強的是INT8性能，AI運算能力達到了3958TFLOPS，帶96GB HBM3內存。

GH200總計有256塊Grace Hooper芯片，因此總計18432個CPU核心，144TB HBM3內存，AI性能達到了1 exaFLOPS，也就是100億億次。

這是什麼概念，當前最強的TOP500超算也就是百億億次性能，只不過這個性能是HPC計算的，NVIDIA的是百億億次AI性能。

為了讓256個超級芯片互聯，GH200還使用了256塊單口400Gb/s InfiniBand互聯芯片，256個雙口200Gb/s InfiniBand芯片，還有96組L1 NVLink、36組L2 NVLink開關等等，設計非常複雜。

NVIDIA表示，谷歌、Meta及微軟是首批獲得DGX H200系統的公司，後續他們還會開放給更多客戶，運行客戶定制。

不過DGX H200還不是最強的，NVIDIA今年晚些時候會推出名為NVIDIA Helios的AI超算系統，由4組GH200組成，總計1024個Grace Hooper超級芯片，576TB HBM內存。