美光宣布推出業界首款8層24GB HBM3 Gen2內存芯片。據了解，這款內存芯片總帶寬超過1.2TB/s，引腳速度超過9.2Gb/s，比HBM3提高50%。美光錶示，HBM3 Gen2產品的每瓦性能是前幾代產品的2.5倍，為人工智能（AI）數據中心的性能、容量和功率效率等關鍵指標創造了新的記錄，可以減少GPT-4等大型語言模型的訓練時間，並提供了卓越的總擁有成本（TCO）。

HBM3 Gen2的解決方案的基礎是1β（1-beta）工藝，在行業標準封裝尺寸內將24GB DRAM芯片組成了8層垂直堆疊的立方體。

此外，美光還在準備12層垂直堆疊的單品36GB DRAM芯片，與現有的競爭解決方案相比，在給定的堆棧高度下，美光提供的容量增加了50%。

根據美光公佈的最新技術路線圖，2026年的“HBMNext”將進一步提高容量，可達到36GB至64GB，帶寬也會提升至超過1.5TB/s至2+TB/s。

另外，美光明年將會帶來GDDR7，容量為16Gb至24Gb，每個數據I/O接口的速率為32Gbps，與三星近期推出的首款GDDR7基本一致。