d-Matrix透過 NVLink Fusion,將其新一代 Raptor XPU 連接至 NVIDIA AI 基礎設施平台,
並加入持續壯大的合作夥伴生態系,共同運用 NVIDIA 機架級架構加速產品上市時程
並加入持續壯大的合作夥伴生態系,共同運用 NVIDIA 機架級架構加速產品上市時程
人工智慧(AI)推論晶片製造商 d-Matrix 今日宣布使用 NVLink Fusion,將其新一代 Raptor XPU 連接至 NVIDIA AI 基礎設施平台,加入日益壯大的NVIDIA AI 平台合作夥伴陣容。
透過將 Raptor 連接至 NVIDIA NVLink 垂直擴展(scale-up)網路、Spectrum-X 水平擴展(scale-out)網路、NVIDIA MGX 機架架構,以及更廣泛的 NVIDIA AI 平台,NVLink Fusion 為 d-Matrix 提供一條更快速且風險較低的途徑,協助其從客製化晶片邁向大規模部署。
d-Matrix 共同創辦人暨執行長 Sid Sheth 在媒體分享會上表示:「推論需求正急速攀升,但資金、時間與能源仍然有限。透過 NVLink Fusion 和 MGX,我們能將 Raptor XPU 整合至已廣泛部署的液冷架構中,讓客戶能以更快速、風險更低的方式部署並擴展超低延遲推論。」
NVIDIA AI 平台具垂直整合和水平開放的特性。NVLink Fusion 將這項開放性進一步延伸至 XPU 與 CPU,讓晶片公司能專注於處理器創新,同時運用 NVIDIA 基礎設施,以 AI 工廠級規模部署其產品。
從客製化晶片邁向機架級部署
打造 XPU 僅是第一步。若要以 AI 工廠規模部署 XPU,還需要一套涵蓋網路、機架架構、電力、散熱、軟體及成熟供應鏈的完整平台。從取得晶片、整合高速介面、驗證垂直擴展網路解決方案,到設計並認證機架架構,每個環節都會增加時間、成本與風險。
NVLink Fusion 讓晶片創新業者能夠直接連接至 NVIDIA 經過驗證的平台。這項高頻寬、低延遲技術可將客製化 XPU 與 CPU 連接至 NVIDIA 技術堆疊。
透過採用 NVLink Fusion,d-Matrix 得以利用 NVIDIA MGX 生態系成熟且經過驗證的機架設計、供應鏈,以及電力與冷卻基礎設施。透過採用標準化的通用機架,資料中心只需建置一次,即可同時支援 GPU、CPU 與 XPU,無需針對每種處理器類型分別設計不同的機架架構。
NVLink Fusion 將 d-Matrix XPU 整合至 AI 工廠
d-Matrix 計畫運用 NVIDIA NVLink,將其 XPU 連接至單一高頻寬、低延遲的垂直擴展網域中。其機架亦能與 NVIDIA Vera Rubin NVL72 等基於 NVIDIA GPU 的系統協同運作,以支援解耦式推論。
d-Matrix 也計畫整合 NVIDIA Vera CPU、NVIDIA ConnectX-9 SuperNIC、NVIDIA BlueField-4 DPU 與 NVIDIA Spectrum-X 乙太網路。結合 NVLink 與 MGX,這些技術為 d-Matrix 提供經過驗證的基礎,讓其能在靈活、統一的 AI 工廠中,與 NVIDIA 系統並行部署專用推論運算。
NVLink Fusion 讓專用 XPU 架構進入 NVIDIA AI 工廠
NVIDIA 全端 AI 工廠平台包括 NVIDIA Vera Rubin NVL72、Groq 3 LPX、Vera CPU 機架、Vera BlueField-4 STX 儲存系統,以及 Spectrum-6 SPX 乙太網路。該平台設計上具備高度通用性,可執行各種 AI 工作負載、模型與模型架構,同時提供最佳的每瓦效能與最低的每詞元成本。
NVLink Fusion 讓客戶能在共同的 AI 工廠平台中,依據不同工作負載靈活搭配最適合的運算資源,同時使用 NVIDIA 的網路、系統、軟體與全球供應鏈。d-Matrix 等晶片創新業者可利用 NVLink Fusion 提升效能、加速產品上市時程,並降低部署半客製化 AI 工廠的風險。
