NVIDIA GPU已經在AI、HPC領域遙遙領先，但沒有最強，只有更強。現在，NVIDIA又發布了全新的HGX H200加速器，可處理AIGC、HPC工作負載的大量資料。NVIDIA H200的一大特點就是首發新一代HBM3e高頻寬記憶體(疑似來自SK海力士)，單顆容量就多達141GB(原始容量144GB但為提高良率屏蔽了一點點)，同時頻寬多達4.8TB /s。

對比H100，容量增加了76％，頻寬增加了43％，而對比上代A100，更是容量幾乎翻倍，頻寬增加2.4倍。

得益於NVLink、NVSwitch高速互連技術，H200還可以四路、八路並聯，因此單一系統的HBM3e記憶體容量能做到最多1128GB，也就是1.1TB。

只是比起AMD Instinct MI300X還差點意思，後者搭載了192GB HBM3，頻寬高達5.2TB/s。

在性能方面，H200再一次實現了飛躍，700億參數的Llama2大語言模型推理性能比H100提高了多達90％，1750億參數的GTP-3模型推理性能也提高了60％，而對比前代A100 HPC模擬性能直接翻倍。

八路H200系統下，FP8深度學習運算效能可以超過32PFlops，也就是每秒3.2億億次浮點運算，堪比一台大型超級電腦。

隨著未來軟體的持續升級，H200還有望繼續釋放潛力，實現更大的效能優勢。

此外，H200還可以與採用超高速NVLink-C2C互連技術的NVIDIA Grace CPU處理器搭配使用，就組成了GH200 Grace Hopper超級晶片，專為大型HPC、AI應用而設計的運算模組。

NVIDIA H200將從2024年第二季開始透過全球系統製造商、雲端服務供應商提供。