NVIDIA H100加速卡瘋了:史無前例120GB顯存
NVIDIA A100無疑是當下最為紅火的GPU,是當今AI最為依賴的加速器,而它的後台H100也已經發布一年多並大規模投產,各種衍生版本越來越多。H100首發標配80GB HBM高帶寬顯存,後來增加了96GB滿配版、94GB NVL大語言模型優化版,還衍生出了中國特供的H800、H800L,並且有SXM5、PCIe 5.0兩種總線接口形態。
現在,我們看到了H100的兩個新版本,一個搭配64GB,SXM5形態,顯然是啟用了六顆顯存中的四顆。
另一搭配94GB,SXM5版本,比滿配版少了2GB,顯然是屏蔽了其中一顆的部分單元,以提高瑕疵品利用率。
另外,H100還有一個終極版本,將搭載瘋狂的120GB,PCIe 5.0 x16形態,但不知道是乾嘛用的,也不知道何時才會發布。