面對記憶體超級週期造成的 DRAM 成本飆漲與供應短缺,AMD 正式推出名為 MEXT(Memory Extension)的全新創新記憶體解決方案。這項技術的核心概念,是透過 AI 智慧調度將成本更低、容量更大的 Flash 儲存空間整合進記憶體架構中,試圖在不影響效能的前提下,徹底打破伺服器與資料中心的記憶體瓶頸。
雖然 Flash 的成本比 DRAM 低上 50%,功耗也低了 30 倍,但它最大的致命傷就是速度比 DRAM 慢了 500 倍。為了克服這項障礙,AMD 自 2022 年起開發 MEXT 軟體技術,透過內建的 AI 演算法來「欺騙」系統,讓 Flash 表現得像 DRAM 一樣:
藉由 MEXT 的導入,AMD 預估初期在 145 台伺服器、並擴展至 2027 年達 2000 台規模的部署下,可節省高達 83% 的替代成本,避免高達 490 萬美元的 DRAM 支出。此外,AMD 也透露未來不排除將 MEXT 技術延伸至一般消費級終端產品線,為個人電腦用戶帶來全新的記憶體成本解方。
DRAM 資源浪費的解方:用 Flash 取代部分 DRAM
根據 AMD 的統計,現今資料中心(如微軟 Azure 與 Meta)常面臨高達 50% 的 DRAM 過度配置(Overprovisioning),其中有一半的記憶體從未被虛擬機使用,再加上 25% 處於閒置的記憶體,高達 50% 至 80% 的總 DRAM 常常因為頁面變冷而處於嚴重低度利用狀態。
雖然 Flash 的成本比 DRAM 低上 50%,功耗也低了 30 倍,但它最大的致命傷就是速度比 DRAM 慢了 500 倍。為了克服這項障礙,AMD 自 2022 年起開發 MEXT 軟體技術,透過內建的 AI 演算法來「欺騙」系統,讓 Flash 表現得像 DRAM 一樣:
- 冷熱頁面分流:AI 模型會自動將不常用的「冷頁面」卸載到 Flash 中,同時預測「即將用到的頁面」並提前推回 DRAM。
- 零硬體改造:整個方案不需更動硬體架構,就能讓實體 DRAM 搭配 MEXT(Flash)直接降低 20% 至 75% 的 DRAM 使用量,並在總容量上實現高達 3 倍的擴充效益。
MEXT 的三大核心架構
MEXT 軟體解決方案主要由三個模組構成:- Linux 驅動程式:輕量級、低負荷的核心模組,可相容於任何 Linux 作業系統。
- 雙擊 AI 引擎(Double-Click AI Engine):由多個 AI 模型(包含基於 Transformer 的 LLM)組成的核心,具備自我改進與即時持續訓練/推論能力。該模型訓練只需不到 1 秒,且僅需消耗單顆 EPYC 核心,完全不需要 GPU 支援。
- RAM View:即時呈現記憶體利用率的監控平台。
各大應用場景的效能與性價比實測
AMD 指出,MEXT 在多種高負載應用中展現了驚人的「性價比(Perf/$)」提升:- 代理人 AI(Agentic AI):在 5-Agent 工作流程中採用 50% DRAM 與 50% MEXT Flash 配置,可帶來 90% 的性價比提升;若改為 25% DRAM 與 75% MEXT 組合,性價比更暴增 3.4 倍。
- 晶片設計(EDA):在第 6 代 EPYC CPU 上運行 Synopsys PrimeTime 時,即使將 DRAM 削減 50%,透過 MEXT 仍能保留高達 95% 的效能,創造 1.9 倍的性價比優勢。
- 資料庫與分析:在運行 Spark TPC-DS 的 Azure 虛擬機上,3 節點叢集在 50% DRAM / MEXT 混合配置下,能維持高達 99% 的全 DRAM 基準效能。
部署時程與未來展望
在供應與部署方面,AMD 宣布 MEXT 目前已進入 Phase 1 階段,適用於具備充沛核心與專用 NVMe 磁碟槽的 AMD EPYC 伺服器;後續的 Phase 2 則將開放授權並預先安裝 RAM View 平台。
藉由 MEXT 的導入,AMD 預估初期在 145 台伺服器、並擴展至 2027 年達 2000 台規模的部署下,可節省高達 83% 的替代成本,避免高達 490 萬美元的 DRAM 支出。此外,AMD 也透露未來不排除將 MEXT 技術延伸至一般消費級終端產品線,為個人電腦用戶帶來全新的記憶體成本解方。
最後編輯:
