nvl72

隨著 Agentic AI 應用快速成長，AI 伺服器對資料暫存與上下文記憶體的需求正急遽放大。Wcctech 外媒指出，NVIDIA 下一代 Vera Rubin AI 系統，可能單憑一己之力，就消耗掉全球 NAND 快閃記憶體產能的相當比例，進而加劇儲存市場的供應壓力。 目前 AI 推論過程中，大量查詢會產生龐大的暫存資料（KV Cache），過去多半仰賴 HBM 進行存放，但隨著模型規模與推論需求不斷放大，HBM 的容量已逐漸成為瓶頸。對此，NVIDIA 在 CES 2026 宣布，將透過 BlueField-4 DPU 搭配全新的 Inference Memory...