美光推出採用單晶片32Gb顆粒的128 GB DDR5-8000 RDIMM
伺服器大容量RDIMM 的主要途徑是使用矽通孔(TSV) 對DRAM 層進行3D 堆疊(3DS)。然而,這給封裝帶來了巨大挑戰(導致成本上升),而且能耗效率也不高。對大容量RDIMM 的需求主要是由於用於生成式人工智慧的大型語言模型(LLM)的突然出現和CPU 核心數的不斷增加,這兩者都需要大量的DRAM 才能滿足效能要求。考慮到這些因素,美光正在推出128 GB DDR5 RDIMM,其運行速度最高可達8,000 MT/s,預計於2024 年量產。
美光公司最近開始利用其經過驗證的成熟1 β 技術製造的單片32 Gb DDR5 顆粒。與標準的JEDEC 規格相比,這種新晶片的位元密度提高了45%以上,能夠達到8000 MT/s,同時還能以更積極的時序延遲運行。該公司聲稱,與競爭對手的3DS TSV 產品相比,它的能源效率提高了24%,更快的運行速度也有助於加快人工智慧訓練時間。避免使用3DS TSV 可以讓美光更好地優化資料輸入緩衝器和關鍵I/O 電路,同時減少資料線上的引腳電容。這些都有助於降低功耗和提高速度。
由於採用CMOS 製程的進步和陣列效率的提高,美光的單晶片密度每3 年左右就會翻倍。該公司認為,隨著技術的不斷進步,未來實現48 Gb 和64 Gb 單晶片的前景十分明朗。美光公司也宣稱,其1 β 節點已領先競爭對手實現量產,並在公司歷史上實現了最快的良率成熟。採用1β DRAM 的雙晶片封裝和高外形尺寸(TFF) 模組預計在不久的將來實現1TB 模組。
在宣布採用1 β 技術的128 GB RDIMM 的同時,該公司也為即將推出的產品製定了路線圖。HDM 和GDDR7 預計將主導對頻寬要求較高的應用,而RDIMM、MCRDIMM 和CXL 解決方案則將用於需要大容量的系統。LPDDR5X 和LPCAMM2 解決方案最高可達192 GB,預計最快將於2026 年出現在功耗敏感系統中。