電子科技 NVIDIA 推出為超大規模生成式人工智慧打造的乙太網路平台

soothepain

full loading
已加入
9/17/03
訊息
20,658
互動分數
1,912
點數
113
網站
www.coolaler.com
全新 NVIDIA Spectrum-X 網路平台結合 NVIDIA Spectrum-4、BlueField-3 DPU 與加速軟體;全球領導的雲端服務提供商使用此平台來擴大生成式人工智慧服務的規模

NVIDIA 今日宣布推出 NVIDIA Spectrum-X 網路平台,這個全新級別的乙太網路平台旨在提升以乙太網路為基礎的AI雲端效能與效率。

NVIDIA Spectrum-X 建立在由 NVIDIA Spectrum-4 乙太網路交換器與 NVIDIA BlueField-3 DPU 緊密耦合驅動的的網路創新技術上,整體人工智慧運作表現及能效提高1.7倍,並在多租戶環境中有著一致且可預測的效能表現。NVIDIA 加速軟體與軟體開發套件(SDK)支援 Spectrum-X 平台,讓開發人員可以建立軟體定義的雲端原生人工智慧應用程式。

NVIDIA_Spectrum-4.jpg


此端到端的功能減少了大規模基於 Transformer 生成式 AI 模型的運行時間。如此一來網路工程師、人工智慧資料科學家及雲端服務提供商能提出更好的執行結果,以及更快做出明智決定。

眾多全球超大規模資料中心業者將採用 NVIDIA Spectrum-X,其中包括引領業界的雲端服務創新業者。

NVIDIA 正在建造Israel-1,做為NVIDIA Spectrum-X 參考設計的藍本和測試平台。這個超大規模生成式人工智慧超級電腦將以 Dell Technologies 最新的 PowerEdge XE9680 伺服器為基礎搭載 NVIDIA HGX H100 伺服器、BlueField-3 DPU 和 Spectrum-4 交換器,部署其在以色列的資料中心。

NVIDIA 網路部門資深副總裁 Gilad Shainer 表示:「生成式人工智慧這類革新性技術迫使每個企業徹底發揮資料中心效能的極限,以追求競爭優勢。NVIDIA Spectrum-X 是全新的乙太網路技術,有潛力移除下一代人工智慧工作負載的障礙,帶領整個產業進行轉型。」

NVIDIA Spectrum-X 網路平台在使用上極為靈活,可以搭配多種人工智慧應用程式使用。它採用完全基於標準的乙太網路,可與基於乙太網路的堆疊交互操作。

NVIDIA Spectrum-X 以專為人工智慧網路打造、全球首款頻寬達每秒 51TB 的 Spectrum-4 乙太網路交換器做為基礎。先進的 RoCE 擴充項目在 Spectrum-4 交換器、BlueField-3 DPU 及 LinkX 光學收發器上協同運作,以打造出最適合人工智慧雲端環境運行的端對端 400GbE 網路。

NVIDIA Spectrum-X 以效能隔離的做法來增強多租戶環境的運作表現,確保在穩定一致的最佳狀態下運行租戶的人工智慧工作負載。它還可以找出效能瓶頸且有著全自動化的 結構(fabric)驗證功能,讓用戶能更清楚掌握人工智慧的效能。

推動 Spectrum-X 運作的加速軟體有強大的 Cumulus Linux、單純的 SONiC 及 NetQ 等 NVIDIA SDK,這些加起來讓這個網路平台擁有極為出色的運行表現。它還有 NVIDIA DOCA 軟體框架,這正是 BlueField DPU 的核心。

NVIDIA Spectrum-X 有著無與倫比的連結規模,一個交換器連結256個 200Gb/s 連接埠,或是在雙層葉脈式拓撲結構中提供16,000個連接埠,以支援人工智慧雲端環境的成長和擴張,同時維持高度運作效能及將網路延遲情況降到最低。


生態系統立即採用

提供 NVIDIA Spectrum-X 平台的公司有 Dell Technologies、聯想及美超微。


供貨時程

NVIDIA Spectrum-X、NVIDIA Spectrum-4 乙太網路交換器、NVIDIA BlueField-3 DPU 與 400G LinkX 光學收發器現已開始供貨。

在COMPUTEX了解更多關於NVIDIA Spectrum-X的資訊。
 
▌延伸閱讀