HBM4E 記憶體控制器技術近日由 Rambus 正式發表，單一模組頻寬達到 4.1 TB/s，相比 HBM4 標準的 2.56 TB/s 大幅提升了 60%。這款全新控制器的開發，主要是為了因應下一代 AI 資料中心超大型晶片（Superchips）的極端運算需求，NVIDIA 的 Rubin Ultra GPU 和 AMD 的 MI500 系列加速器都將採用 HBM4E 標準。
根據 Rambus 公佈的技術細節，該控制器支援每引腳（pin）高達 16 Gbps 的傳輸速率，遠高於 HBM4 的 10 Gbps。若將此控制器應用於搭載 8 顆 HBM4E 裝置的 AI 加速器，整台設備的記憶體總頻寬將突破 32 TB/s。這類規格轉化為實際效能時，能顯著緩解生成式 AI 模型訓練中常見的數據傳輸瓶頸，確保運算核心不會因為等待資料而閒置。
除了速度優勢，Rambus 強調該控制器具備先進的可靠性功能與低延遲特性，能完美整合至 2.5D 或 3D 封裝結構中，協助晶片設計者在 SoC 或自定義基礎底層（base die）中快速佈署。
目前 Rambus 已開放 HBM4E 控制器 IP 的授權。雖然對一般消費者而言，TB 等級的頻寬有些遙不可及，但這項技術將直接推動各類高效能運算（HPC）與大型語言模型的演進速度。對於那些正在開發下一代 AI 硬體的企業來說，這款控制器無疑是目前市場上頻寬天花板等級的選擇。
根據 Rambus 公佈的技術細節，該控制器支援每引腳（pin）高達 16 Gbps 的傳輸速率，遠高於 HBM4 的 10 Gbps。若將此控制器應用於搭載 8 顆 HBM4E 裝置的 AI 加速器，整台設備的記憶體總頻寬將突破 32 TB/s。這類規格轉化為實際效能時，能顯著緩解生成式 AI 模型訓練中常見的數據傳輸瓶頸，確保運算核心不會因為等待資料而閒置。
除了速度優勢，Rambus 強調該控制器具備先進的可靠性功能與低延遲特性，能完美整合至 2.5D 或 3D 封裝結構中，協助晶片設計者在 SoC 或自定義基礎底層（base die）中快速佈署。
目前 Rambus 已開放 HBM4E 控制器 IP 的授權。雖然對一般消費者而言，TB 等級的頻寬有些遙不可及，但這項技術將直接推動各類高效能運算（HPC）與大型語言模型的演進速度。對於那些正在開發下一代 AI 硬體的企業來說，這款控制器無疑是目前市場上頻寬天花板等級的選擇。