Intel Gaudi 3 AI加速器可以賣給中國但揮刀砍掉一半
Intel日前發布了新一代AI加速器Gaudi 3,本來美國政府是不會允許賣給中國的,但沒想到Intel已經同步準備好了中國特供版本! Gaudi 3採用台積電5nm工藝,配備了8個矩陣引擎、64個張量核心、96MB SRAM快取、1024-bit 128GB HBM2E內存(頻寬3.7TB/s),還有16個PCIe 5.0通道、24個2000GbE網絡、JPEG/VP9/H.264/H.265解碼器,提供OAM相容夾層卡、通用基板、PCIe擴充卡三種形態。
Intel聲稱,它相比上代擁有2倍的FP8 AI算力、4倍的BF16 AI算力、2倍的網路功耗為600W頻寬、1.5倍的記憶體頻寬,而對比NVIDIA H100 LLM推理效能領先50% 、訓練時間快40%。
Gaudi 3的首發版本編號HL-325L,OAM形態,已經出貨,功耗900W,風冷散熱。
它的中國特供版將在6月推出,編號HL-328,功耗減半至450W,HMB記憶體、快取、解碼器等完全保留,但既然功耗少了一半,算力差不多也會被腰斬。
10月還會有液冷版HL-335,支援雙路並聯,但不能賣給中國,也沒有特供版。
PCIe擴充卡形態將在9月出貨,風冷,滿血版編號HL-338,,中國特供版編號HL-388,功耗又被限制在450W。
通用基板型態的編號為HLB-325,但具體規格及出貨時間暫時不詳。
說起來,NVIDIA是最早做中國特供版AI加速器的,也就是H800、A800,後來也被禁售了,最近又拿出了H20、L20、L2、RTX 4090D,都能賣。
AMD也設計了特供版Instinct MI309、MI388X,但都被美政府以算力還是太強為由給打回,而年底將要升級到MI350。