NVIDIA官方回應H20砍單傳言
近日市場傳言國內網路大廠可能在NVIDIAH20訂單未來大幅砍單。傳聞稱,主要是因有要求部分購買H20的企業要報備,需備註使用說明不用其他方案的原因”,從而擔憂H20會被砍單。這一消息似乎也影響了NVIDIA的股價。上週五NVIDIA股價破新高974美元後劇烈回調,單日從大漲5%至大跌5%,雖然主要是主要受選擇權影響,但一定程度上也可能與此相關。
近期,有機構對於此時訪談了對於NVIDIA市場部的領導進行了訪談。具體答覆如下:
Q:H20組成群集的表現與Ascend 910的比較?
A:伺服器卡間瓶頸,伺服器間瓶頸。卡間互聯910的互聯頻寬是H20的一半,卡間互聯效能下降一半。
伺服器間互聯,NVIDIA有一分半IB交換機,沒有替代解決方案。國內是400、800G集群交換機,算力損耗比較大。
Q:H20的NVLINK是900GB/s,H800只是400GB/s,可以達到嗎?
A:NVLINK對NV不是高端的,很成熟了,H系列都可以支撐。
網路頻寬支撐這麼大,可以買更多的卡片達到,NVLINK的傳輸速度可以領先的。異騰達不到的,現在是400G,8卡一連就是200了。
Q:近日是否有中國的訂單大量砍單的情況?
A:截止昨日,H20的中國訂單一直穩定,市場部尚未接到大量砍單的現象。
Q:請領導介紹H20的優點和缺點?
A:NVIDIA作為全球AI晶片的領導者,無論在硬體上或在軟體生態上都是最成熟的。H20是高快取、高頻寬,但算力效能差,這主要是禁令的要求和限制。
H20卡算力效能與910相比差了一些,但是,快取與頻寬遠比910高,頻寬是910兩倍。
NV有NVLINK架構,H20可以是透過多卡使用、多卡堆疊模式,完全超越910,甚至突破H100。
Q:中國市場的業務拓展情況?
A:H20就是為中國推出的訂製版,公司十分重視中國市場,已經啟動H20的推廣,委託中國國內最強的技術團隊,屆時,現場有千台H20組網集群,大家一定會看到非常震撼的效果。
NVIDIA近況交流要點:
H20:
1)專供國內的訓練卡,目前已確定數量在40w張左右,隨著國內互聯網等企業對該卡的接受度增加,有較大提升空間;
2)價格下降,1月定價為2.3-2.5w美元,2月份下降至1.2-1.4w美元,主要係910b的壓力;
3)單卡性能為910b的60%+,單卡算力為H100的20%;
4)叢集效能優越,主要受益於NVIDIA NVLINK技術。
B100:
1)目前市面上最高階的訓練卡,性能為H100的三倍以上;
2)24年7月開始小批量供應,25年起起量供應成為主力訓練卡;
3)以H100算力和顧客價格接受度預測在3.6-3.9w美金之間,不會超過4w美元;
4)分為低算力/高算力兩種,對應散熱方式為風能/液冷, 佔60%液冷+ 40%風能。
NVIDIA25年及以後:
1)25年訓練卡的總量約為500w張,推測b100/h200/h100分別為200w/100w/100w;
2)23年至25年,NVIDIA訓練卡將處於高峰期。預計在26年,隨著AI應用廣泛存在,AI伺服器的成長將逐漸平緩。這一趨勢將促使通用伺服器逐漸擺脫AI伺服器的衝擊,並扭轉先前的負成長態勢。預計在27年,通用伺服器市場將恢復正成長。
格局變化:
1)預計在27年,通用伺服器市場將恢復正成長。
2)AI伺服器代工無影響,推理+訓練此消彼長,總量不變;
3)可能影響卡片的代工廠商,訓練卡25年成長放緩,其代工廠尋求其他產能合作。