NVIDIA發布X800系列交換器、網路卡頻寬高達80萬兆
AI新時代不但對算力、模型要求越來越高,也需要越來越強大的網路。為此,NVIDIA發布了專為大規模AI量身訂做的全新網路交換器-X800系列。據悉,NVIDIA Quantum-X800 InfiniBand網路、Spectrum-X800乙太網路是全球首批高達800Gbps端對端吞吐量的網路平台,早期用戶包括微軟Azure、甲骨文雲、Coreweave等等。
Quantum-X800平台可以說是AI專用基礎設施極致性能的新標桿,包含Quantum Q3400交換機、ConnectX-8 SuperNIC網卡,二者互連的端到端吞吐量達到了業界領先的800Gbps(80萬兆)。
同時,交換頻寬容量比上一代提高5倍,網路運算能力則憑藉NVIDIA SHARPv4技術提高9倍,達到了14.4TFlops,也就是每秒14.4兆次運算。
Spectrum-X800則包含Spectrum SN5600交換器、BlueField-3 SuperNIC網卡,吞吐量同樣高達800Gbps,可為多租戶AIGC雲端和大型企業級用戶提供各種至關重要的先進功能。
軟體方面,NVIDIA 提供以萬億參數級AI模型效能最佳化的網路加速通訊庫、軟體開發套件、管理軟體等全套軟體方案。
其中,NVIDIA集合通訊庫(NCCL)可將GPU的平行運算任務擴展到Quantum-X800網絡,並利用基於SHARPv4的強大網絡運算能力、對FP8資料格式的支持,為大模型訓練和AIGC提供超強的性能。
全球多家頭部基礎設施供應商與系統廠商將從2025年開始,提供基於Quantum-X800、Spectrum-X800的網路平台,包括Aivres、DDN、戴爾、Eviden、Hitachi Vantara(日立旗下)、慧與、聯想、超微、VAST Data等等。