AMD推出MI300X 可運行多達800億參數模型
在AI浪潮席捲全球,且將人工智能列為第一戰略重點後,AMD在AI的技術創新高地繼續保持攻勢,並有望改變現存的英偉達一家獨大的市場格局。北京時間6月14日凌晨,AMD在美國舊金山舉辦的“數據中心和人工智能技術首映式”活動上,正式發布了MI300系列在內的一系列數據中心及人工智能相關技術產品。AMD董事長兼CEO蘇姿豐博士(Lisa Su)表示,AI存在大量的市場機會,而最大的機遇來自於數據中心。
Bergamo:業界首款X86雲原生CPU
去年,AMD推出了領先的3D V-Cache技術,並基於此打造了第三代AMD EPYC Milan-X系列處理器。
此後,3D V-Cache成為EPYC處理器的標配。今日,AMD宣布推出採用3D V-Cache技術更新後的第四代EPYC處理器。
針對不同場景以及負載需求,第四代EPYC處理器包括面向通用計算領域的“Genoa”、面向雲原生計算領域的“Bergamo”、面向技術計算領域的“Genoa-X”以及面向電信/邊緣計算的“Siena”,前三項產品已經實現出貨,Siena將於今年下半年出貨。
其中,“Bergamo”是業界首款x86雲原生CPU。它基於特別定制的Zen 4c微架構,保持了與Zen 4微架構基本相同的功能集,同時將內核尺寸要求減半。
據介紹, “Bergamo”處理器有128個“Zen 4c”內核,能夠為在雲端運行的應用程序帶來最大的vCPU密度和行業領先的性能。實現2.7倍的能耗節省,同時帶來3倍容量升級,以驅動大規模雲原生應用,優勢在於具有靈活的擴展性,能夠實現核心數以及功耗上的平衡。
行業分析指出,Bergamo作為一個雲原生SoC,在某種程度上是對安培、亞馬遜、Google和微軟等新興的基於Arm的數據中心級SoC的回應。Bergamo在設計上基於多種因素,包括效率、功耗、芯片尺寸和低總擁有成本(TCO),而不是以提供最大的每核性能為目標。
微軟宣布全面推出基於第四代EPYC處理器以及3D V-Cache技術的Azure HBv4和HX實例。與上一代HBv3相比,最新的實例提供了高達5倍的性能提升。
亞馬遜也展示了基於新一代AMD EPYC處理器的EC2 M7a實例,具有50%計算性能的提升,並能夠支持更廣泛的工作負載。
MI300X:性能最強生成式AI加速器
今日,此前備受行業關注的神秘芯片MI300揭開面紗。實際上,AMD Instinct MI300系列包括兩款產品:MI300X與MI300A。
據蘇姿豐介紹,MI300X是目前最先進的生成AI加速器。基於第三代CDNA架構,MI300X支持高達192GB的HBM3內存(英偉達的H100只有80GB),HBM內存帶寬也高達5.2TB/s,Infinity Fabric總線帶寬也有896GB/s,晶體管數量達到1530億個。
借助AMD Instinct MI300X的大內存,可以在單個GPU上適配大型語言模型,例如400億個參數模型Falcon-40B,蘇姿豐還在現場利用MI300X演示了內容生成,撰寫了一篇關於舊金山的詩歌。
MI300A則是業界首款“CPU+GPU+HBM顯存”一體化的數據中心芯片,同時也是全球首款面向高性能和AI工作負載的APU加速器。MI300A採用3D堆疊和Chiplet技術,配備了9個基於5nm製程的計算核心(6個GCD+3個CCD),置於4個基於6nm製程的I/O die之上。晶體管數量達到1460億個、多於英偉達H100的800億個。
此外,AMD還推出了由8個MI300X整合在一起的Instinct平台,具有高達1.5TB HBM3內存。
作為目前AMD AI領域最強芯片,MI300X被視為是對標英偉達H100的產品。有分析指出,從性能上MI300X性能顯著超越H100,在部分精度上的性能優勢高達30%甚至更多。而對於MI300A,憑藉CPU+GPU的能力,產品組合性能更高、同時具有成本優勢。AMD在收購賽靈思之後,在加速卡領域的定制化服務大幅領先英偉達,能夠協助雲廠商在特定算法模塊上進行訓練,上述因素都將為MI300系列帶來競爭優勢。
據蘇姿豐介紹,MI300A已經向客戶送樣,MI300X將於今年Q3送樣,預計今年Q4上市。
或扭轉AI市場格局
如今,AI技術帶來的熱潮,使得越來越多的公司投入其中。AMD視AI為第一戰略,全力押注,十分看好AI市場的廣泛前景。
今天的會議現場,蘇姿豐給出了AMD對於AI市場的判斷。AMD預計,來自CPU、FPGA以及其他AI數據中心業務將推動市場規模從2023年的300億美元增加到2027年的1500億美元,年均複合增長率超過50%。
外界也對AMD此次芯片發布給予較高期望。6月12日,AMD盤前漲近3%,股價創2022年1月18日以來新高。
一些分析機構的研判認為,MI300X性能強大,是對標英偉達高端加速卡的有力競品。相較H100,MI300X在晶體管數量和顯存容量上亦大幅領先。隨著MI300X芯片在下半年的量產發布,AMD有望與英偉達在AI加速卡市場展開直接競爭。而隨著下游應用端的高速發展,使得微軟、Google、Meta等眾多海外巨頭爭相增加算力儲備,算力芯片需求高度旺盛之下,英偉達一家獨大的市場格局或將迎來轉變。
正因如此,資本市場對於AMD給予更多積極的預期。部分分析觀點認為,AMD2024年AI相關營收有望達到4億美元,最高甚至可能達到12億美元——是此前預期的12倍之多。昨日,數家美國投行還相繼大幅上調了對AMD的目標價,最高上調50美元之多。(校對/李映)