AMD推出MI300X加速器較英偉達H100最多提升60% 激增市場規模預期
週三,AMD發表備受矚目的全新MI300系列AI晶片,包括MI300A和MI300X晶片,瞄準這座英偉達主導的市場。AMD發表的新款晶片擁有超過1500億個晶體管,新款晶片記憶體是英偉達H100產品的2.4倍,記憶體頻寬是H100的1.6倍。AMD將2027年AI加速器市場規模預期較8月時上調將近兩倍。
週三,AMD發表備受矚目的全新MI300系列AI晶片,包括MI300A和MI300X晶片,瞄準這座英偉達主導的市場。此類晶片比傳統電腦處理器更擅長處理人工智慧訓練所涉及的大型資料集。
本次新品發表是AMD公司長達50年歷史上最重要的一次之一,可望挑戰英偉達在炙手可熱的人工智慧加速器市場上的地位。
AMD發布的新款晶片擁有超過1500億個電晶體。MI300X加速器支援高達192GB的HBM3記憶體。
MI300X記憶體是英偉達H100產品的2.4倍,記憶體頻寬是H100的1.6倍,進一步提升了效能。
MI300X新款晶片較英偉達的H100性能最多可提升60%。在與H100(Llama 2 70B版本)的一對一比較中,MI300X效能提高了高達20%。在與H100(FlashAttention 2版本)的一對一比較中,效能提高了高達20%。在與H100(Llama 2 70B版本)的8對8伺服器比較中,效能提高了高達40%。在與H100(Bloom 176B)的8對8伺服器比較中,效能提高了高達60%。
AMD公司CEO Lisa Su表示,新晶片在訓練人工智慧軟體的能力方面與H100相當,在推理方面,也即軟體投入實際使用後運行該軟體的過程,要比競品好得多。
伴隨著人工智慧的火爆,市場對高階晶片需求極大。這令晶片製造商們瞄準這一利潤豐厚的市場,並加快推出高品質的AI晶片。
雖然整個AI晶片市場競爭相當激烈,AMD在周三對未來市場規模給出了大膽驚人的預測,認為AI晶片市場將迅猛擴張。具體來說,預計人工智慧(AI)晶片市場的規模到2027年將達到超過4000億美元,這比其8月時預計的1500億美元上調將近兩倍,凸顯人們對人工智慧硬體的期望正在快速變化。
AMD越來越有信心其MI300系列能夠贏得一些科技巨頭的青睞,這可能會讓這些公司花費數十億美元的支出,投向AMD的產品。AMD表示,微軟、甲骨文和Meta等都是其客戶。
同日訊息顯示,微軟將評估對AMD的AI加速器產品的需求,評估採用此新品的可行性。Meta公司將在資料中心採用AMD新推的MI300X晶片產品。甲骨文表示,該公司將在雲端服務中採用AMD的新晶片。
先前市場預估AMD的MI300系列在2024年的出貨約30~40萬顆,最大客戶為微軟、Google,若非受限台積電CoWoS產能短缺及英偉達早已預訂逾四成產能,AMD出貨可望再上修。
AMD推出MI300X加速器消息發布後,英偉達股價下跌1.5%。今年英偉達股價暴漲,使其市值超過1兆美元,但最大的問題是,它還能獨享加速器市場多久。AMD看到了屬於自己的機會:大型語言模型需要大量電腦內存,而這正是AMD認為自己的優勢所在。
為了鞏固市場主導地位,英偉達也正在開發自己的下一代晶片。H100將於明年上半年被H200取代,後者於上個月推出,能夠提供新型高速內存,在Llama 2上的推理速度比H100快一倍。此外,英偉達將在今年稍後推出全新的處理器架構。