電子科技 NVIDIA 全新的 AI 乙太網路平台 Spectrum-X

soothepain

full loading
已加入
9/17/03
訊息
20,587
互動分數
1,914
點數
113
網站
www.coolaler.com
NVIDIA今天宣布戴爾科技集團、慧與科技和聯想將率先在其伺服器產品線中整合用於人工智慧的NVIDIA Spectrum-X™乙太網路技術,以協助企業客戶加速生成式人工智慧工作負載。

nvidia11211.jpg


Spectrum-X 專為生成式人工智慧打造,為企業提供了新型乙太網路,與傳統乙太網路產品相比,其人工智慧通訊網路效能可提高 1.6 倍。

三家頂尖系統製造商推出的新系統將 Spectrum-X 與 NVIDIA Tensor Core GPU、NVIDIA AI Enterprise軟體和NVIDIA AI Workbench軟體結合在一起,為企業提供透過生成式人工智慧實現業務轉型的建構區塊(building blocks)。

NVIDIA創辦人暨執行長黃仁勳表示:「生成式人工智慧和加速運算正在推動一個世代的轉變,企業正在升級其資料中心以應對這些工作負載。加速網路是NVIDIA領先伺服器製造商合作夥伴推出新一波系統的催化劑,以加速過渡到生成式人工智慧時代。」

戴爾科技集團董事長暨執行長Michael Dell表示:「加速運算和網路是構建滿足大型語言模型和生成式人工智慧應用需求系統的關鍵。透過我們的合作,戴爾科技集團和 NVIDIA 正在為客戶提供可快速、安全地從資料中提取智慧所需的基礎設施和軟體。」

慧與科技總裁暨執行長 Antonio Neri 表示:「生成式人工智慧無疑將推動多個產業的創新。這些強大的新應用將需要一個完全不同的架構來支援各種動態工作負載。為了使客戶能夠充分發揮生成式人工智慧的潛力,慧與科技正在與NVIDIA合作,構建具有所需功能、效率和可擴展性的系統來支援這些應用。」

聯想集團董事長暨執行長楊元慶表示:「生成式AI可以推動前所未有的變革,但對企業基礎設施提出了前所未有的需求。與NVIDIA密切合作,聯想正在構建高效、加速的系統,配備了現代人工智慧應用所需的網路、運算和軟體。」


專為加速人工智慧而建構的網路

為了實現尖峰人工智慧工作負載效率,Spectrum-X 結合了Spectrum-4乙太網路交換器的極致效能;NVIDIA BlueField-3 SuperNIC,一種用於增強超大規模人工智慧工作負載的新型網路加速器; 以及加速軟體。Spectrum-X與全球最先進基礎設施運算平台 BlueField-3 DPU相輔相成。

Spectrum-4 是全球首款用於人工智慧的 51Tb/秒 乙太網路交換機,可在大規模和負載下提供高效的資料吞吐量,同時最大限度地減少多租戶、人工智慧雲端工作負載的網路擁塞。其智慧、微調的路由技術在所有狀況下都能夠最大化網路基礎設施的使用。

BlueField-3 SuperNIC 專為網路密集、大規模平行運算而設計,在 GPU 伺服器之間提供高達 400Gb/s 的基於融合乙太網的RDMA(RoCE)網路連接,並提高在集群內部的東西向網路上的人工智慧訓練和推理流量的效能。它們還支援安全的多租戶資料中心環境,確保租戶作業之間的確定性和隔離效能。BlueField-3 SuperNIC 擁有高能源效率、半高、半長 PCIe 外型尺寸,是企業級伺服器的理想選擇。

為Spectrum-X提供動力的加速軟體包括Cumulus Linux、Pure SONiCNetQ等共同驅動平台的突破性效能的NVIDIA軟體開發套件,以及BlueField的核心:NVIDIA DOCA™ 軟體框架。

NVIDIA AI Enterprise提供框架、預先訓練的模型和開發工具,以保障安全、穩定和支援的生產AI。NVIDIA AI Workbench允許開發人員在PC或工作站上快速建立、測試和定製經過預先訓練的生成是人工智慧模型,然後將其擴展到幾乎任何資料中心或雲端。


由 Spectrum-X 驅動的 NVIDIA Israel-1 超級電腦

Spectrum-X 也支援 NVIDIA Israel-1 超級電腦,這是下一代人工智慧系統的參考架構。 Israel-1 是與 Dell Technologies 的合作項目,使用由 NVIDIA HGX™ H100 八個 GPU 平台以及 BlueField-3 DPU 和 SuperNIC 以及 Spectrum-4 交換器驅動的 Dell PowerEdge XE9680 伺服器。


上市時間

戴爾科技集團、慧與科技和聯想預計於明年第一季度推出配備完整 NVIDIA 人工智慧堆疊的新系統。
 
▌延伸閱讀