單卡功耗可達1400W 黃仁勳:下代GPU伺服器必須水冷
NVIDIA CEO黃仁勳在近日的2024 SIEPR經濟高峰會上透露,下一代DGX GPU伺服器將會採用水冷散熱,整個系統非常壯觀(magnificent)、非常迷人(beautiful)。黃仁勳也提到,新一代DGX伺服器很快就會到來,暗示Blacwell B100 GPU加速卡距離發布已經不遠了——官方只說2024年內,消息稱已提前到第二季度。
戴爾先前的會議中確認,NVIDIA明年還會推出升級版B200 GPU,最高功耗可達1000W,甚至有說法說會有恐怖的1400W!
NVIDIA目前的主力AI GPU H100和升級版H200最大功耗為700W,核心面積814平方毫米,皆只需風冷。
AMD MI300X則需要750W,但是面積也更大一些達到了1017平方毫米。
現如今,伺服器和資料中心使用浸沒式液冷散熱已經稀鬆平常,但也有很多專家對這種發展途徑吃反對態度。
Moor Insights & Strategy的創辦人、CEO兼首席分析師Patrick Moorhead就明確提出,為了提高效能,並控制合理的功耗、發熱,我們已經窮盡了手段,但接下來該怎麼辦?上液態氮嗎?是時候重新思考了。