NVIDIA GB200 NVL4平台發表:四顆GPU+兩顆CPU、功耗達5400W
SuperComputer 2024超算大會上,NVIDIA公佈了一系列新產品、新技術,其中最亮眼的當屬「GB200 NVL4」運算平台,也是其SuperChip超級晶片家族的一員。這是一套單一伺服器解決方案,在一塊不大的板子上,整合了四顆Blackwell GB200 GPU晶片、兩顆Grace CPU晶片,彼此透過NVLink匯流排高速互聯。
四顆Blackwell共擁有768GB HBM3內存,合計頻寬32TB/s,兩顆Grace GPU則有960GB LPDDR5X內存。
二者合計,就是恐怖的1.7TB!
此方案適用於HPC、AI混合負載應用,號稱對比上代GH200 NVL4,訓練及圖裡效能高1.8倍,模擬效能高2.2倍。
當然代價就是極高的耗電量,總計不可思議的5400W-一小時5.4度電。
如果不需要這麼彪悍的方案,NVIDIA也早就提供了兩顆Blackwell GB200 GPU晶片、一顆Grace GPU晶片的版本,規模減半,當然功耗也要2700W。