AI 應用 SpaceXAI 採用 NVIDIA Vera CPU,大規模加速代理型 AI

soothepain

full loading
已加入
9/17/03
訊息
23,565
互動分數
2,019
點數
113
網站
www.coolaler.com
  • SpaceXAI 將部署 NVIDIA Vera CPU,加速其新一代代理型 AI 工作負載背後所需的運算。
  • SpaceXAI 正採用 NVIDIA Vera Rubin 平台擴展支援 Grok 的 AI 基礎設施,朝百萬瓩級的運算容量邁進。
  • SpaceXAI 計畫將 NVIDIA 加速運算的應用延伸至太空,其第一代 Starmind AI 衛星將採用經過最佳化的 NVIDIA Vera Rubin NVL72 系統打造。

NVIDIA 今日宣布,SpaceXAI 將部署 NVIDIA Vera CPU 來加速其新一代代理型人工智慧(AI)應用,將首款專為 AI 代理打造的 CPU 導入全球最具雄心的 AI 部署之一。

vera_gpu.jpg


代理型 AI 應用日益仰賴 CPU 在模型呼叫間協調工具、執行程式碼、處理資料及執行模擬。SpaceXAI 將採用 Vera 來加速這些應用工作負載,協助 AI 代理更快速採取行動,同時確保 GPU 持續獲得所需資料並得到充分利用。

SpaceXAI 計畫在 NVIDIA Vera Rubin 上擴展其支援 Grok 的 AI 基礎設施,同時透過 SpaceXAI 第一代的 Starmind 衛星,將經最佳化的 Vera Rubin NVL72 延伸至太空。

NVIDIA 超大規模與高效能運算副總裁 Ian Buck 表示:「代理型 AI 需要全新的運算系統,這種系統不僅用於產生答案,更能採取行動。Vera 為 AI 代理提供即時採取行動所需的 CPU 效能,包括執行程式碼、處理資料,以及協調複雜任務。SpaceXAI 正將這套架構從大規模 AI 工廠帶往下一個前沿,也就是軌道上的運算。」

SpaceXAI 總裁 Mike Nicolls 表示:「Vera 提供我們所需的 CPU 效能與記憶體頻寬,能夠執行大量的協調作業、程式碼執行與資料處理工作,同時讓 GPU 專注於最擅長的工作。這意味著 AI 代理將具備更高效能,並讓每瓦運算能力創造更多實際成果。」


NVIDIA Vera:專為 AI 代理打造的 CPU

NVIDIA Vera 是首款專為 AI 代理打造的 CPU,旨在加速模型推論周邊大量仰賴 CPU 的工作,包括工具使用、程式碼執行、資料處理、協調與模擬。

Vera 配備 88 個由 NVIDIA 設計的 Olympus 核心、NVIDIA 空間多執行緒技術及高頻寬 LPDDR5X 記憶體,可提供最高達 1.2 TB/s 的頻寬。在代理型 AI、強化學習與資料處理等工作負載中,Vera 的任務完成速度最高可達 x86 CPU 的 1.8 倍。


SpaceXAI 透過 NVIDIA Vera Rubin 擴展 AI 基礎設施

在大規模環境下,AI 基礎設施必須支援高需求的訓練、推理與推論工作負載,同時將效能、能效與利用率最大化。NVIDIA Vera Rubin 透過運算、網路與軟體的協同設計,最佳化 AI 工廠的整體運作。

該平台整合 NVIDIA 加速運算、NVIDIA NVLink™ 互連技術、NVIDIA Spectrum-X™ 乙太網路、NVIDIA BlueField® 資料處理與 NVIDIA 軟體,透過整合架構,在大規模部署下提供高效能與高能效,同時降低每個詞元的成本。

隨著 SpaceXAI 的運算能力擴展至百萬瓩級,Vera Rubin 提供一套通用架構,讓其新一代 AI 工廠得以高效擴展。SpaceXAI 並計畫將這項基礎從地面資料中心延伸至軌道運算。


NVIDIA 加速運算從地球延伸至軌道

SpaceXAI 與 NVIDIA 的合作正從地面的 AI 工廠進一步延伸至太空。

SpaceXAI 正開發用於軌道環境的 AI 運算基礎設施。在軌道上,電力、散熱管理、頻寬、可靠性與硬體整合所面臨的限制,與傳統資料中心截然不同。

SpaceXAI 規劃中的第一代 Starmind AI 衛星,將以經過最佳化的 NVIDIA Vera Rubin NVL72 機架級系統為基礎,驅動相同於地球上新一代 AI 工廠的加速運算架構延伸至太空。

NVIDIA 與 SpaceXAI 正共同調整這項基礎,使其符合軌道運算的需求,同時維持一致的 NVIDIA 架構與軟體生態系。

這將為各種不同環境提供統一的運算基礎:由 Vera CPU 加速日益複雜的 AI 代理、Vera Rubin 驅動支援 Grok 的 AI 基礎設施,以及地面上百萬瓩級的 AI 工廠,再由 NVIDIA 加速運算進一步延伸至軌道 AI 基礎設施。


進一步瞭解 NVIDIA Vera Rubin 平台NVIDIA Vera CPU