NVIDIA近日宣布了未來三代AI伺服器，不但規格、效能越來越強，HBM記憶體也是同步升級，容量、頻率、頻寬都穩定前進。其中，基於GB300晶片的Blackwell Ultra NVL72今年下半年發布，繼續採用HBM3E內存；明年下半年的Vera Rubin NVL144升級為下一代HBM4內存；後年下半年的Rubin Ultra NVL576繼續升級為加強版HBM4E內存；而到了2028年的FeynmanHB5架構有望首次採用全新內存。

同時，SK海力士、三星、美光三大原廠也紛紛展示了自己的HBM記憶體發展規劃，包括HBM4、HBM4e。

SK海力士如今作為HBM內存的領袖，直接擺出了一顆48GB大容量的HBM4，是世界第一顆，也是最強的一顆。

它採用單Die 24Gb(3GB)的設計，16Hi也就是16顆堆疊而成，資料傳輸率8Gbps，IO位寬2048-bit，也就是一顆的頻寬就有2TB/s。

美光的沒有做太多介紹，只是說性能比HBM3e提升了50％，而量產時間安排在2026年。

三星的資料最為詳盡，不但有具體參數，還有規劃路線圖。

三星這次展示的HBM4密度也是單Die 24Gb，單顆容量則有36GB(12堆疊)、24GB(8堆疊)兩種，不如SK海力士。

不過，資料傳輸率最高9.2Gbps，頻寬最高2.3TB/s。

它採用MPGA封裝，尺寸12.8×11毫米，堆疊高度775微米，能源效率為每bit 2.3PJ。

對於下代HBM4E，三星規劃單Die容量提高到32Gb(4GB)，支援8/12/16堆疊，因此單顆容量最大可以做到64GB，而且高度維持不變。

同時資料傳輸率提高到10Gbps，繼續搭配2048-bit位寬，頻寬可達2.56TB/s。

HBM記憶體現階段和可預見的未來都會主要用於AI伺服器，應該是不會下放到消費級顯示卡了，當年的AMD Fiji、Vega恐怕成為絕唱。

目前，中國在DRAM記憶體、NAND快閃記憶體方面都已經基本追上了國際領先水準或差距不大，HBM則還需要大大努力。

消息稱，多家中國廠商已經搞定了第二代HBM2，並已供貨給客戶，搭配國產AI GPU加速器，倒也相得益彰。