Rambus推HBM3記憶體子系統:速率高達8.4Gbps,帶寬突破1TB
美國記憶體IP廠商 Rambus 宣佈推出 HBM3 記憶體介面子系統,其傳輸速率達8.4Gbps,可以為人工智慧/機器學習(AI/ML) 和高性能計算 (HPC) 等應用提供 TB 級頻寬,是當前速率最快的 HBM 產品。 預計 2022 年末或 2023 年初 ,Rambus HBM3 將會流片,實際應用於數據中心 、AI、HPC 等領域。
芯東西(公眾號 :aichip001)
作者 | 高歌
編輯 | Panken
芯東西等媒體與 Rambus 大中華區總經理蘇雷 、Rambus IP 核產品行銷高級總監 Frank Ferro 就 Rambus HBM3 的具體性能以及 Rambus 對客戶的支援等進行了深入交流。
一、支援 8.4Gbps 數據傳輸速率,頻寬超 TB
據 Frank 分享,隨著越來越多的公司進入人工智慧市場,這對記憶體頻寬提出了很多要求,而神經網路和深度學習等 AI 應用也在不斷推動記憶體頻寬增長。
諮詢公司 IDC 記憶體半導體副總裁 Soo Kyoum Kim 曾稱 :”AI/ML 訓練對記憶體頻寬的需求永無止境,一些前沿訓練模型現已擁有數以十億的參數。 ”
Rambus 的 HBM3 記憶體子系統提高了原有性能標準,包含完全集成的 PHY 和數位控制器,可以支持當下很多 AI 及 HPC 應用。
具體來說 ,HBM3 的數據傳輸速率高達 8.4Gbps/pin, 頻寬達 1075.2GB/s(1.075TB/s)。 Rambus 的 HBM3 支援標準的 64 位 16 通道,支援 2、4、8、12 和 16 HBM3 DRAM 堆棧,通道密度達 32Gb。
Frank 回應芯東西記者問題時稱 ,HBM3 的流片時間預計為 18 個月,因此可能會在 2022 年末或 2023 年初出片,並實際應用於部分客戶。
▲ Rambus HBM3 產品性能亮點與目標市場
Frank 稱,由於其數據傳輸速率和頻寬較高 ,HBM3 可以應用於 AI、 機器學習 、HPC 等多種應用。
HBM3 採用了 2.5D 架構,最上面集成了 4 條 DRAM 記憶體條,通過堆疊的方式集成在了一起。 記憶體條下方是SoC和中介層,最下面的綠色部分則是封裝。
對客戶來說 ,Rambus 會提供 SI/PI 專家技術支援,確保設備和系統具有最優的信號和電源完整性。 作為IP授權的一部分 ,Rambus也將提供2.5D封裝和仲介層參考設計。
▲ Rambus HBM3 產品架構
Frank 還給出了 HBM 性能的演進圖。
2016年 HBM2 的頻寬為 256GB/s,I/O 數據速率為 2Gbps;HBM2E 的頻寬則能達到 460GB/s, 數據傳輸速率達 3.6Gbps;SK 海力士公佈的 HBM3 帶寬和傳輸速率分別為 665GB/s 和 5.2Gbps;Rambus 的 HBM3 性能又進一步提升,分別達 1075GB/s 和 8.4Gbps。
▲ HBM 產品性能演進圖
Frank 強調,雖然 Rambus 的 HBM3 性能比 SK 海力士此前公佈的要更進一步,但 SK 海力士作為 Rambus 的重要客戶 ,Rambus 也會為其提供支援。
蘇雷還透露,當前國內的一流 AI 晶片廠商都和 Rambus 有所接觸,預計行業將會快速升級到 HBM3 標準。
二 、Rambus 優勢:市場經驗豐富、支援多廠商製程節點
對於 Rambus 能夠為客戶提供的服務 ,Frank 提到 Rambus 在 HBM 市場中擁有豐富的經驗和技術優勢。
Rambus 在 2016 年就進入了 HBM 市場,其 HBM2E 記憶體子系統擁有行業中最快的 4Gbps 速率。
憑藉產品性能 ,Rambus 獲得了超過 50 個市場訂單,是市場份額排名第一的 HBM IP 供應商 。 Rambus 的晶片開發基本一次就能成功,無需返工,提升了設計效率。
同時,Rambus 的 HBM2/2E PHY( 埠物理層)支援台積電、三星等多個先進製程節點。 其產品集成了 PHY、IO、Decap 等,其客戶可以直接採用。
Rambus 也與 SK 海力士、三星等 DRAM 供應商關係緊密,其測試晶片已經經過了市場上所有供應商的 DRAM 驗證,能夠為客戶提供便捷地服務。
▲ Rambus 在 HBM 市場中的優勢
三、2025 年全球數據使用量將達到 175ZB,AI 晶片市場將達百億美元
Rambus 大中華區總經理蘇雷分享了近年來 Rambus 所取得的成績 。 Rambus 創建時間已經超過 30 年,公司總部位於美國加利福尼亞州,在歐盟和亞洲等地設有辦事處,全球員工人數超過 600 人。
Rambus 擁有 3000 餘項專利和應用 ,2020 年經營現金流達 1.855 億美元,來自產品、合同等收入同比增長 41%。 其主要的客戶有三星、美光、SK 海力士等記憶體廠商和高通 、AMD、英特爾等晶片廠商 ,Rambus 75% 以上的收入來自於數據中心和邊緣計算產品銷售。
▲半導體產業生態
從市場來說,人工智慧/機器學習越來越多地應用於各個領域。 預計到 2025 年,超過 25% 的伺服器將用於人工智慧領域 ,AI 晶片市場將達到 100 億美元。
2025年,全球數據使用量將達到175ZB,年均複合增長率達35%,伺服器整體年增長率為8%。 蘇雷稱 ,Rambus 也將致力於使數據傳輸更快、更安全。
▲數據中心市場趨勢
結語 :HBM3 將推動 AI、HPC 應用發展
相對於 GDDR 顯存 ,HBM 有著高頻寬的特性,是數據密集型應用記憶體和數據處理瓶頸的解決方案之一。
本次 Rambus HBM3 IP 的推出,將再次推動 HBM 產品性能的提升,推動人工智慧、高性能計算等應用發展。