英偉達推出GB200 NLV4 或明年3月推出GB300
對於中型規模的,或是注重能源效率的組織而言,GB200 NVL4是一個非常合適的選擇。與專為大規模部署設計、並具有邊緣連接器以支援脊骨配置的NVL72相比,NVL4提供了一個更緊湊、更注重能源效率的替代方案。
英偉達推出的GB200 NLV4,填補了關鍵的市場需求。並且,英偉達也計畫在2025年3月17日至20日的GTC大會上發表其下一代GB300 AI伺服器平台,搭載新款B300 AI GPU,功率高達1400W,FP4效能是B200的1.5倍。
近日,英偉達推出了中階平台GB200 NLV4,配備Grace CPU和Blackwell GPU,在效能和能源效率之間取得了平衡,專為現代資料中心設計。
分析認為,GB200 NVL4的推出正值英偉達重塑其產品組合之際——逐漸淘汰舊款NVL平台,轉向更先進的選項,如NVL4。
對於中型規模的,或是注重能源效率的組織而言,GB200 NVL4是一個非常合適的選擇。與專為大規模部署設計、並具有邊緣連接器以支援主幹配置的NVL72相比,NVL4提供了一個更緊湊、更注重能源效率的替代方案。
平衡性能與能源效率
GB200 NVL4的核心是兩顆基於Arm架構的Grace CPU,每顆CPU配備72個Arm Neoverse V2核心,兩顆CPU合計提供144個核心,提供執行高效能任務所需的運算能力。此外,GB200 NVL4還搭配四個Blackwell GPU。
分析師表示,此配置特別適合AI、高效能運算(HPC)和其他資料密集型應用。
另外,GB200 NVL4還在每顆CPU下方配備了六個MCIO連接器,確保其提供快速的PCIe連接,從而支援無縫的資料傳輸。這些連接器支援網路介面卡(NIC)、固態硬碟(SSD)和其他關鍵組件的集成,使系統具備靈活性和可擴展性。
記憶體方面,GB200 NVL4提供最多1.3 TB的聯合內存,專為記憶體密集型工作負載的組織設計,確保了資料的高效處理。
除了強大的效能外,GB200 NVL4的另一個亮點是其能源效率。
英偉達預計,完全配置的伺服器將消耗約6kW的電力。雖然這功耗不容小覷,但相較於英偉達早期的系統,如DGX-1或HGX-1,功耗約為3.5kW,GB200 NVL4的功耗僅約一半。
明年還將推出GB300?
根據報道,英偉達計劃在2025年3月17日至20日的GTC大會上發表其下一代GB300 AI伺服器平台,搭載新款B300 AI GPU,功率高達1400W,FP4性能是B200的1.5倍。
目前,英偉達的GB200 AI使用的是192GB HBM3E內存,採用8層堆疊配置,據UDN消息透露,GB300將使用288GB HBM3E內存,採用12層堆疊,這一技術由SK hynix開發。
GB300 AI伺服器平台的快速連接組件和網路卡也得到了升級,光模組的速度從800G提升到了超快的1.6T。 UDN報告稱,性能和設備“在各個方面都得到了提升”,是英偉達的“市場制勝武器”。
另外還有一些升級,如採用插槽設計、計算板將使用LPCAMM,電容托盤可能成為下一代GB300 NVL72 AI伺服器機櫃的標準配置,UDN還提到,BBU(備用電池單元)「可能是可選的」。
無疑,如此豪華的配置,預計組件的成本將相當可觀。
分析師預計,BBU模組的大規模生產價格約為300美元,而GB300 AI伺服器的BBU總價可能會達到1,500美元。預計超電容器的生產成本在20到25美元之間,而GB300 NVL72 AI伺服器機櫃需要超過300個超電容器。