AI 應用 NVIDIA Vera Rubin 推升每瓦效能,為全球合作夥伴帶來最低詞元成本

soothepain

full loading
已加入
9/17/03
訊息
23,389
互動分數
2,012
點數
113
網站
www.coolaler.com
在全球 300 家合作夥伴支持下,Vera Rubin 正加速在全球部署。CoreWeave、Google Cloud、Microsoft Azure 與 Mistral 等 NVIDIA 合作夥伴正部署 Vera Rubin,其每瓦效能與最低詞元成本在基準測試中居領先地位


NVIDIA Vera Rubin 正式登場,並邁向百萬瓩級規模。

vera_rubin_1.jpg


Vera Rubin NVL72 正加速量產,合作夥伴 CoreWeave、Google Cloud、Microsoft Azure 與 Oracle Cloud Infrastructure 均已開始運行相關機架。Vera Rubin 的機架級供應鏈橫跨 30 個國家、逾 350 座工廠據點,規模與成熟度皆創歷來之最,可滿足客戶的運算需求。

Vera Rubin 平台從晶片到網格進行整體設計,以提供最高的每瓦效能與最低的詞元成本。CoreWeave 針對 DeepSeek-R1 進行的首次基準測試充分展現這項優勢:每百萬瓦的輸送量為 Grace Blackwell NVL72 的 10 倍,直接改善電力受限人工智慧(AI)工廠最重要的指標。


透過極致協同設計推進效能

實現這一切的關鍵在於橫跨七款晶片與五種機櫃托盤的極致共同設計,包括 Vera Rubin NVL72、Vera CPU 機架、Groq 3 LPX、Spectrum-6 SPX 與 Vera BlueField-4 STX。這些元件以單一系統為目標進行設計,而非由各自獨立的市售現成產品組裝而成。

NVIDIA Vera CPU 是整套系統的核心,重新定義 AI 工廠 CPU。這款專為代理時代設計與打造的處理器,其客製化的 Olympus 核心相較於競爭對手的小晶片(chiplet)設計,單執行緒效能提升 2 倍、核心間頻寬提升 3 倍,並將記憶體延遲降低 40%,使其成為處理最重要代理型工作負載時,效率最高的單執行緒 CPU。


以專為需求打造的網路加速 AI 工廠

在網路方面,該平台採用第六代 NVLink 垂直擴展技術,相較於市售乙太網路,在處理複雜工作負載的輸送量提升超過 2 倍,延遲降低 3 倍,封包速率則提升 10 倍。在橫向擴展方面,Spectrum-X 乙太網路整合 102.4T Spectrum-6 交換器系統、1.6T ConnectX-9 SuperNIC、自適應路由、進階壅塞控制、遙測功能與開放式作業系統支援,使其 RDMA 頻寬較市售乙太網路高出 1.6 倍。

CoreWeave、微軟、SpaceXAI 與 Tesla 等全球頂尖 AI 基礎設置建構商,皆率先導入 Spectrum-6 交換器,以加速其 AI 工廠。用於橫向擴展且採用共同封裝光學元件的 NVIDIA Photonics,是業界首款進入量產的此類交換器。相較於可插拔收發器,其功耗降低 5 倍,平均故障間隔時間(MTBI)提高 10 倍,CoreWeave、Lambda 與 OCI 均為首批採用者。

Spectrum-XGS 乙太網路透過 1.9 倍的多站點輸送量,將效能延伸至不同站點,因為百萬瓩級 AI 無法只靠單一設施實現。

NVLink Fusion 則向第三方 XPU 開放 NVIDIA 基礎設施平台,讓合作夥伴可透過經過驗證的 NVLink 垂直擴展技術堆疊與生態系,更快將產品推向市場。


節省組裝時間與用水

NVIDIA 經過三代機架級協同設計,打造出托盤內沒有任何纜線、風扇或軟管的 Vera Rubin NVL72 系統,讓運算托盤組裝時間從數小時縮短至 1 分鐘。

攝氏 45 度的液冷進水溫度設計,使系統能夠在無需冷卻機的情況下,直接採用乾式冷卻運作。對於新建的 AI 工廠而言,這種高溫乾式冷卻技術搭配閉迴路液冷系統,每部署 1 百萬瓦,每年可節省數百萬加侖用水。