美光宣布已開始提供其”生產就緒”的HBM3E 內存解決方案樣品，該解決方案採用12-Hi 設計，容量達36 GB，已向英偉達等合作夥伴提供。

美光HBM3E 12-high擁有令人印象深刻的36GB容量，比目前的HBM3E 8-high產品增加了50%，使像Llama 2這樣擁有700億個參數的大型人工智慧模型可以在單一處理器上運行。容量的增加避免了CPU 卸載和GPU-GPU 通訊延遲，從而縮短了運算時間。

Micron HBM3E 12-high 36GB 的耗電量大大低於競爭對手的HBM3E 8-high 24GB 解決方案。 Micron HBM3E 12-high 36GB 提供超過每秒1.2 TB (TB/s) 的記憶體頻寬，接腳速度超過每秒9.2 gigabits (Gb/s)。 HBM3E 的這些綜合優勢能夠以最低的功耗提供最大的吞吐量，並確保耗電的資料中心獲得更好表現。

此外，Micron HBM3E 12-high 還整合了完全可編程的MBIST，能夠以全規格速度運行系統代表性流量，為加快驗證提供了更好的測試覆蓋範圍，從而加快了產品上市時間，並提高了系統可靠性。

美光現已向主要產業合作夥伴交付可量產的HBM3E 12-high 單元，供整個人工智慧生態系統進行鑑定。 HBM3E 12-high這一里程碑展示了美光為滿足不斷發展的人工智慧基礎設施的數據密集型需求而進行的創新。

美光也是台積電3DFabric 聯盟的得意合作夥伴，該聯盟幫助塑造半導體和系統創新的未來。人工智慧系統製造非常複雜，HBM3E 整合需要記憶體供應商、客戶和外包半導體組裝和測試(OSAT) 廠商之間的密切合作。

以下是美光HBM3E 12 高36GB 的亮點：

• 正進行多個客戶資格認證：美光正在向主要產業合作夥伴交付可量產的12-high 單元，以實現整個人工智慧生態系統的資格認證。
• 無縫可擴充性： HBM3E 12-high 擁有36GB的容量（比目前的HBM3E 產品容量增加了50%），使資料中心能夠無縫擴展不斷增加的人工智慧工作負載。
• 高效率：美光HBM3E 12 高36GB 解決方案的功耗遠低於同類HBM3E 8 高24GB 解決方案。
• 高效能： HBM3E 12-high 36GB 的接腳速度超過每秒9.2 千兆位元（Gb/s），可提供超過每秒1.2 TB的記憶體頻寬，為人工智慧加速器、超級電腦和資料中心實現快如閃電的數據存取。
• 加速驗證：完全可編程的MBIST 功能能夠以代表系統流量的速度運行，為加快驗證提供了更大的測試覆蓋範圍，從而加快了產品上市時間，並提高了系統可靠性。