NVIDIA AI伺服器明年預計將首次採用插槽式設計
里昂證券的最新報告顯示,NVIDIA的AI伺服器將首次採用插槽設計,預計從明年下半年的GB200 Ultra開始。這項變革意味著,NVIDIA的GPU產品將首次採用過去僅用於CPU產品的插槽設計將有助於簡化售後服務和伺服器板維護,並優化運算板的製造良率。
根據里昂證券的研究,採用插槽設計後,運算子將整合四顆NVIDIA GPU,每顆GPU都將配備一個插槽和一顆NVIDIA CPU
插槽設計主要應用於傳統的CPU伺服器市場,其優勢在於便於更換和升級處理器,簡化主機板製造並實現模組化。
目前,AMD的MI300A是目前AI GPU伺服器中唯一採用插槽設計的案例,隨著NVIDIA的加入,這項設計可能會成為未來AI伺服器的新標準。
里昂證券分析,NVIDIA的GPU出貨量持續擴大,預計到今年底將超過300萬顆,隨著NVIDIA模組化伺服器設計(MGX)的趨勢和對更便捷售後服務的需求,採用插槽設計成為可能。