Micron 宣布推出容量達 256GB 的 LPDRAM SOCAMM2 模組,號稱為目前全球首款達到此容量等級的產品。相較於先前 192GB 的規格,新版本在單模組容量上再度提升,主打資料中心與 AI 基礎設施應用。
隨著 AI 工作負載規模持續擴大,記憶體瓶頸問題日益明顯,特別是在長上下文推論與 agentic 應用場景中,對容量與頻寬需求快速攀升。Micron 表示,新一代 SOCAMM2 將協助緩解 KV-cache 所帶來的延遲壓力,進一步降低長上下文運算的延遲。
NVIDIA 資料中心 CPU 產品負責人 Ian Finder 指出,256GB SOCAMM2...