三星開發業界首款36GB HBM3E記憶體晶片12層堆疊
三星2月27日宣布開發出業界首款12層堆疊HBM3E 12H高頻寬記憶體晶片,這也是迄今容量最高的HBM產品,達36GB,頻寬高達1280GB/s。與8層堆疊HBM3產品相比,這款新品在容量、頻寬方面都提高了50%以上,可顯著提高人工智慧(AI)訓練、推理速度。
三星電子儲存產品規劃執行副總裁Yongcheol Bae表示,業界AI服務供應商越來越需要更高容量的HBM,而我們開發的全新HBM3E 12H產品正是為滿足這項需求而設計的。
技術方面,三星HBM3E 12H採用先進的熱壓非導電薄膜(TC NCF),使12層產品具有與8層HBM晶片相同的高度,以滿足目前HBM封裝要求。該技術預計將在未來帶來更多優勢,特別是更高層數堆疊方面,因為業界正在努力減輕晶片晶片變薄帶來的翹曲問題。三星不斷降低NCF材料的厚度,並實現了目前業界最小的晶片間隙(7微米),同時消除了層間空隙。與先前的HBM3 8H產品相比,新技術的進步使得垂直密度提高了20%以上。
三星表示,TC NCF技術也能夠透過在晶片之間使用不同大小的凸塊,來改善HBM的熱性能。在晶片鍵合層面,較小的凸塊用於訊號傳輸區域,而較大的凸塊用於需要散熱的區域;此方法也有助於提高產品產量。
集微網了解到,英偉達目前的H200旗艦AI晶片宣布採用HBM3E存儲,下一代B100預計將同樣採用HBM3E,目前三大存儲晶片巨頭三星、SK海力士、美光均重點發力HBM。
三星表示,HBM3E 12H將成為未來最佳解決方案,並降低資料中心總成本(TCO)。效能方面,新產品與HBM3 8H相比,人工智慧訓練平均速度可提高34%,用於推理服務支援的使用者數量最高可增加11.5倍以上。
目前三星已開始向客戶提供HBM3E 12H樣品,計劃於今年上半年量產。