橫跨 NVIDIA Vera CPU、Rubin GPU、NVLink 6 交換器、ConnectX-9 SuperNIC、BlueField-4 DPU 與 Spectrum-6 乙太網路交換器的極致協同設計,可大幅縮短訓練時間並降低推論詞元生成成本
與 NVIDIA Blackwell 平台相比,Rubin 平台利用軟硬體的極致協同設計,可將推論詞元成本降低 10 倍,並將訓練混合專家模型所需的 GPU 數量減少 4 倍。
NVIDIA Spectrum-X 乙太網路光子學交換器系統將能源效率與正常運作時間提升 5 倍。
採用 NVIDIA BlueField-4...
- soothepain
- 主題
-
ai超級電腦
nvidia
nvidia rubin
rubin
- 回覆: 0
- 討論區: 業界新聞