NVIDIA 將在Hot Chips 2024 上展示其Blackwell 技術堆棧，並在本週末和下週的主要活動中進行會前演示。對於NVIDIA 發燒友來說，這是一個令人興奮的時刻，他們將深入了解NVIDIA的一些最新技術。然而，Blackwell GPU 的潛在延遲可能會影響其中一些產品的時間表。

NVIDIA 決心利用其Blackwell 平台重新定義人工智慧領域，將其定位為超越傳統GPU 功能的綜合生態系統。 NVIDIA 將在Hot Chips 2024 會議上展示其Blackwell 伺服器的設定和配置，以及各種先進組件的整合。

在NVIDIA 即將舉行的演講中，許多內容都是大家耳熟能詳的，包括他們的資料中心和人工智慧策略以及Blackwell 路線圖。路線圖概述了明年Blackwell Ultra 的發布，隨後是2026 年的Vera CPU 和Rubin GPU，以及2027 年的Vera Ultra。 NVIDIA 在去年6 月的Computex 上已經分享了這一路線圖。

對於渴望深入了解NVIDIA Blackwell 堆疊及其不斷發展的使用案例的技術愛好者來說，Hot Chips 2024 將提供一個探索NVIDIA 在人工智慧硬體、液體冷卻創新和人工智慧驅動的晶片設計方面最新進展的機會。

該平台由多個NVIDIA 元件組成，包括Blackwell GPU、Grace CPU、BlueField 資料處理單元、ConnectX 網路介面卡、NVLink 交換器、Spectrum 乙太網路交換器和Quantum InfiniBand 交換器。

此外，NVIDIA 也將推出Quasar Quantization System，該系統整合了先進的演算法、NVIDIA 軟體庫和Blackwell 的第二代Transformer Engine，可增強FP4 LLM 作業。這項開發成果可望在維持FP16 高效能標準的同時大幅節省頻寬，實現資料處理效率的重大飛躍。

另一個焦點是NVIDIA GB200 NVL72，這是一個多節點液冷系統，配備72個Blackwell GPU和36個Grace CPU。與會者還將探索NVLink互連技術，該技術可促進GPU通信，實現卓越的吞吐量和低延遲推理。

NVIDIA 在資料中心冷卻方面的進展也將成為討論的話題。該公司正在研究使用溫水液體冷卻，這種方法可以將功耗降低28%。這種技術不僅能降低能源成本，還無需使用低於環境溫度的冷卻硬件，NVIDIA 希望藉此成為永續技術解決方案的領跑者。

為了配合這些努力，NVIDIA 將重點介紹其參與COOLERCHIPS 計畫的情況，該計畫是美國能源部的一項倡議，旨在推動冷卻技術的發展。透過該項目，NVIDIA 正在利用其Omniverse 平台開發類比能耗和冷卻效率的數位孿生體。

在另一場會議上，NVIDIA 將討論其使用的基於代理的人工智慧系統，該系統能夠自主執行晶片設計任務。人工智慧代理的應用實例包括時序報告分析、單元集群優化和程式碼產生。值得注意的是，單元集群優化工作最近在首屆電氣和電子工程師協會LLM 輔助設計國際研討會上被評為最佳論文。