NVIDIA發布了全新的H200 Hopper GPU，該GPU現在配備了美光公司生產的世界上最快的HBM3e 記憶體。除了新的人工智慧平台，NVIDIA也宣布其Grace Hopper超級晶片在超級電腦領域取得重大勝利，該晶片現在為Exaflop Jupiter超級電腦提供動力。

NVIDIA的H100 GPU是迄今為止業界需求量最大的人工智慧晶片，但NVIDIA希望為客戶提供更高的效能。HGX H200是最新的人工智慧高效能運算平台，由H200 Tensor Core GPU驅動。這些GPU 在硬體和軟體上都採用了最新的Hopper 最佳化技術，同時提供了迄今為止世界上最快的記憶體解決方案。

NVIDIA H200 GPU配備了美光的HBM3e顯存解決方案，容量最高可達141 GB，頻寬達4.8 TB/s，與NVIDIAA100相比頻寬增加了2.4倍，容量增加了一倍。在Llama 2（700億參數LLM）等應用程式中，這種新的記憶體解決方案使英偉達的人工智慧推理效能比H100 GPU提高了近一倍。

在解決方案方面，NVIDIAH200 GPU將廣泛應用於4路和8路GPU配置的HGX H200伺服器。HGX 系統中的8 路H200 GPU 配置可提供32 PetaFLOPs 的FP8 運算效能和1.1 TB 的記憶體容量。

這些GPU 也將與現有的HGX H100 系統相容，讓客戶更容易升級他們的平台。NVIDIA合作夥伴，如華碩（ASUS）、華擎（ASRock Rack）、戴爾（Dell）、Eviden、技嘉（GIGABYTE）、惠普（Hewlett Packard Enterprise）、英格拉（Ingrasys）、聯想（Lenovo）、QCT、威聯（Wiwynn）、超微（Supermicro）和緯創（Wistron），這些廠商將在2024年第二季H200 GPU上市時提供更新的解決方案。

除了發布H200 GPU 之外，NVIDIA還宣布了一項由其Grace Hopper 超級晶片（GH200）驅動的大型超級電腦專案。這台超級電腦被稱為”木星”（Jupiter），位於德國尤利希研究中心（Forschungszentrum Jülich），是歐洲高效能運算聯合計畫（EuroHPC Joint Undertaking）的一部分，由Eviden 和ParTec 公司承包。這台超級電腦將用於材料科學、氣候研究、藥物發現等領域。這也是英偉達於11月發布的第二台超級計算機，上一台是Isambard-AI，可提供高達21 Exaflops的人工智慧效能。

在配置方面，Jupiter 超級電腦基於Eviden 的BullSequana XH3000，採用全液冷架構。它總共擁有24000 個英偉達GH200 Grace Hopper 超級晶片，這些晶片透過該公司的Quantum-2 Infiniband 互聯。考慮到每個格雷斯CPU 包含288 個Neoverse 內核，我們將看到Jupiter 單是CPU 方面就有近700 萬個ARM 內核（確切地說是691.2 萬個）。

效能指標包括90 Exaflops 的人工智慧訓練和1 Exaflop 的高效能運算。這台超級電腦預計將於2024 年安裝完畢。總體而言，這些都是英偉達公司面向未來的重大更新，它將繼續以其強大的硬體和軟體技術引領人工智慧世界的發展。