面向GB300伺服器的NVIDIA Blackwell Ultra”B300″AI GPU可能採用插槽式設計
NVIDIA的Blackwell Ultra B300 GPU可能會在GB300伺服器上採用插座式設計,這將使維護和升級變得更加容易。 NVIDIA目前的資料中心高效能晶片採用了OAM設計,即板載解決方案。 透過這種設計,GPU 晶片永久焊接到伺服器主機板上,如GB200,用戶可以在一個主機板上同時找到Grace CPU 和Blackwell GPU。
不過,這可能是最後一個採用板載設計的系列,因為一些報告指出NVIDIA 可能會在用於GB300 伺服器的Blackwell B300″Ultra”GPU上採用不同的設計。 根據MoneyDJ 和Economic Daily News(透過Trendforce)的說法,B300 GPU 可能採用基於插座的設計,這將允許用戶從主機板上安裝或卸載GPU。
據悉,英偉達的Blackwell Ultra”B300″AI GPU 採用插座式設計可簡化英偉達的製造流程,並使多家公司受益,尤其是生產互連組件和插座的富士康。 目前的Blackwell GPU 是直接焊接到主機板上的,過渡到插座式設計後,B300 GPU 可以像CPU 一樣從主機板上拆下來。
這種過渡將帶來多種好處,包括提高良品率和實現靈活生產,因為GPU 無需焊接到插座上,NVIDIA也無需依賴表面貼裝技術。 此外,由於在出現與GPU 相關的問題時無需更換整個主機板,因此此流程將簡化維護和售後服務。
因此,升級可以減少更換GPU 時的整體停機時間,有助於公司為客戶提供更可靠的伺服器。 不過,預計新的插座設計會帶來一些效能下降,因為這會帶來更高的延遲。 儘管如此,如果能改善維護、升級和提高產量,那麼這種權衡還是值得的。
B300 的另一個重要變化是採用了FP4,這有利於推理過程。 推理是經過訓練的模型對資料進行預測的方式,是人工智慧運算的一個重要面向。 B200已經在人工智慧工作負載中表現出色,並已被多家公司部署。
同時,B300″Blackwell Ultra”有望大幅提升效能,但它並不是首款採用基於插槽設計的產品,因為AMD 已經在2023 年推出的MI300A 晶片中引入了這種設計。