AMD MI300X加速GPU買家首秀
AMD去年底正式發表了新一代加速GPU Instinct MI300X/MI300A,首批向超算、資料中心等大客戶出貨,包括美國政府、微軟、Meta,現在有些小客戶也拿到了貨。LaminiAI,一家新興的AI創業企業,一直與AMD關係非常好,就曬出了自己批量到貨的MI300X,將用來訓練自己的LLM大語言模型。
他們使用的是八路並行配置,單系統就有八塊這樣的加速器,從截圖裡就可以看到八塊卡,只不過都處於空閒狀態,並未火力全開。
早在去年7月,美國能源部旗下的勞倫斯利弗莫爾國家實驗室(LLNA)就宣布,全新的「El Capitan」(酋長岩)超算已開始安裝MI300A加速器,將在2024年滿血上線,預計性能超過200億億次浮點計算每秒。
如今,小客戶也拿到了MI300加速器,顯然產能已經上來,可以大量供貨了,對AMD來說非常關鍵。
AMD先前曾預計,MI300系列加速器將成為該公司史上最快達到1億美元營收的產品。
AMD MI300X整合八個5nm XCD加速計算模組,共304個計算單元,搭配四個6nm IOD模組,整合256MB無限緩存,還有八顆共192GB HBM3內存,總計1530億個晶體管。
根據官方說法,MI300X的效能可以超過NVIDIA H100 80GB。
MI300A是全球首款面向AI、HPC的APU加速器,配置六個XCD模組、228個運算單元,以及三個CCD哦快、24個Zen4 CPU核心,搭配128GB HBM3內存,總計1460億個電晶體。