AMD舉辦Advancing AI 2024大會:企業級CPU、GPU大更新加速AI佈局
美國舊金山時間10月10日,半導體公司AMD舉辦「Advancing AI 2024」活動,發表了一系列企業相關的產品,其中包括Instinct MI325X GPU加速器、第五代AMD EPYC伺服器處理器,以及Ryzen AI PRO 300系列處理器等。
新品眾多,且大多是企業級資料中心相關的產品,不免讓人覺得有些眼花撩亂,但實際上他們都有一個共同的主題,那就是AI。 Instinct MI325X加速器不必多說,這是AMD在AI加速器市場站穩腳跟的關鍵,它將直接與英偉達的H200晶片競爭;第五代AMD EPYC伺服器處理器為雲端、企業和AI提供強大算力;而Ryzen AI PRO 300系列處理器則將AI能力帶給企業商用筆電產品。
「Advancing AI 2024」就如它的名字,是AMD推動人工智慧、擴大其AI 市場份額的重要一步。
Instinct MI325X GPU加速器
在AI加速器市場,面對英偉達這樣的對手,AMD需要拿出有足夠誠意的產品。去年發布的Instinct MI300X取得了一定成功,而作為它的繼任者Instinct MI325X在記憶體和浮點運算上有了新突破。
由於配備了速度更快、密度更高的HBM3E內存,Instinct MI325X的內存頻寬提升到6TB/s,容量提升為256GB。另外,它的浮點運算的能力也提升了近30%。 AMD在介紹這款產品時稱,在開源工作負載中,它相比競爭對手有1.2倍到1.4倍的效能提升。
這只是一個Instinct MI325X,AMD將其嵌入到一個平台中,其中包含8個這樣的加速器,這意味著平台上所有的能力將翻8倍,而推理性能相比競爭對手提升最高1.4倍,訓練模型的性能也追平了對手。
除了Instinct MI325X GPU加速器,AMD也預告了Instinct MI350系列,它是前者的繼任者,採用3奈米製程,全新的CDNA 4架構,記憶體容量提升至288GB,記憶體頻寬提升至8TB/s。在平台層級的產品中,記憶體容量超過2.2TB,FP6和FP4下可實現74 PF的運算。
第五代AMD EPYC伺服器處理器
對於AMD來說,伺服器處理器市場至關重要。從2018年開始,AMD EPYC的市佔率就不斷提升,如今這個系列的產品已經更新到了第五代。
第五代AMD EPYC伺服器處理器有兩個版本,一個是基於Zen 5架構,擁有128顆核心,256執行緒;另一個基於Zen 5c架構,擁有192顆核心,384執行緒。製程製程也不一樣,一個基於4nm,另一個基於3nm。
記憶體方面,第五代AMD EPYC伺服器處理器擁有12個記憶體通道,支援6TB插槽容量,並配備兩個插槽。 I/O啟動後不僅可以保護CPU,還可以保護平台中連接到CPU的全部裝置。
第五代AMD EPYC伺服器處理器在雲端和企業工作負載中,IPC效能提升了17%;而HPC和AI的IPC效能提升了37%。這是相當大的提升了。
效能提升之外,AMD瞄準了那些4年未更新的資料中心。官方宣稱,現在客戶可以使用131個伺服器來取代上千個數年前的伺服器,來實現後者所有功能。這樣做的直接好處就是,降低了68%的功耗,減少了87%的伺服器數量,進而降低客戶的成本。而AMD提供了一套完整的遷移工具,就怕客戶嫌麻煩不買單。
那麼先進的伺服器處理器對AI有什麼幫助呢? AMD展示了多項數據,如果單純用EPYC來完成所有AI工作,相比競爭對手,其有3倍的機器學習能力提升,3.8倍端到端人工智慧和搜尋能力的提升,還有1.9倍大語言模型能力提升。
如果你買了昂貴的GPU用來做AI,不管是AMD自家的Instinct MI300X系列,還是對面的H100系列,EPYC都可以最大化GPU的能力。而如果是CPU和GPU搭配處理AI任務,第五代AMD EPYC伺服器處理器依然有優於競爭對手的表現。總之一句話就是,買了第五代AMD EPYC,怎麼用都不吃虧。
銳龍Ryzen AI PRO 300商用行動系列處理器亮相
雖然是銳龍系列,雖然是AI PC,但這個系列的處理器不是面向消費級市場,而是面向企業級PC的。它的架構和不帶「PRO」的版本基本上一致:CPU部分採用Zen 5架構,NPU採用XDNA 2架構,GPU則採用RDNA 3.5架構。其中NPU的算力提升到50TOPS以上,完全滿足微軟Copilot+PC的條件。所以AMD稱,這個系列處理器是世界首款專為企業Copilot+PC設計的晶片。
與「非PRO」版不同的是,「PRO」版針對企業加入了AMD PRO技術。例如晶片內建了安全技術層,避免複雜攻擊;方便企業快速部署,並相容於現有的基礎設施;也與軟體供應商合作,確保軟體穩定性和可用性等等。
此外,AMD也討論了產品的續航,由於採用了領先的4nm製程工藝,搭載這款處理器的AI PC一般使用時間可達23小時;連續使用Microsoft Team,續航力可超過9小時。雖然沒人想要連續使用Team超過9小時,但不可否認,銳龍AI PRO 300系列擁有這樣的能力。
將這樣一款AI PC處理器帶到企業級市場,AMD補全了在企業端AI市場的最後一塊拼圖。
寫在最後:
Advancing AI 2024整場活動都是面向企業市場的,這對消費者來說似乎無關緊要,但對那些耳熟能祥的科技公司,比如穀歌、微軟、IBM、思科等等,卻顯得尤為重要。這些「巨頭」企業也派出了代表為AMD月台,並足見這場活動在企業領域的影響。
而說回AI,與競爭對手相比,AMD更像是個挑戰者,透過策略性收購、創新產品開發和強大的合作關係,來試圖撼動「霸主」的地位。 “數據中心和人工智慧(AI)為AMD帶來了巨大的成長機會”,AMD董事長兼首席執行官蘇姿豐(Lisa Su) 博士表示。
「展望未來,我們看到,2028年,資料中心、人工智慧、加速器市場將成長至5,000億美元。透過我們擴展的晶片、軟體、網路和叢集級解決方案,我們致力於提供大量開放式創新。 」