NVIDIA 宣布推出專為大型人工智慧與高效能運算的 Grace CPU

GraceCPU 採用節能的 Arm核心,為訓練大型 AI 模型的系統帶來十倍的效能躍升

瑞士國家超級運算中心與美國能源部的洛斯阿拉莫斯國家實驗室,為首批打造採用 NVIDIA CPU 的超級電腦單位


NVIDIA (輝達) 今天宣布推出首個採用 Arm 架構的資料中心 CPU (中央處理器),其針對最複雜的人工智慧 (AI) 與高效能運算作業負載的效能是當今最快之伺服器的十倍。



超過一萬年工程心血結晶的 NVIDIA Grace™ CPU,旨在滿足全球最先進應用程式的運算需求,包括自然語言處理推薦系統AI 超級運算,由於這些應用必須分析龐大的資料集,因此需要超快速的運算效能與大量的記憶體。Grace CPU 整合節能的 Arm CPU 核心與創新的低功率記憶體次系統,達到高效能且節能的設計。

NVIDIA 創辦人暨執行長黃仁勳表示:「頂尖的 AI 與資料科學正在推進當今電腦架構的極限,因為要處理的資料量多到無法想像。NVIDIA 採用授權的 Arm IP 打造出專為大型 AI 與高效能運算設計的 Grace CPU。結合 GPU 與 DPU,Grace 為我們帶來第三個基礎運算技術,以及重新架構資料中心並推進 AI 的能力。NVIDIA 現在是提供三種晶片的公司。」

Grace 是具高度特定性的處理器,專為如訓練超過一兆個參數的次世代自然語言處理模型的作業負載所設計。一套基於 Grace CPU 架構的系統與 NVIDIA GPU 緊密結合時,將提供較當今基於 x86 CPU 運行的最頂尖 NVIDIA DGX™ 架構系統提升十倍的效能。

預計絕大多數的資料中心將繼續由現有的 CPU 提供服務,而為紀念美國電腦程式設計先驅 Grace Hopper 而命名的 Grace CPU,將服務特定的運算領域。

瑞士國家超級運算中心 (CSCS) 與美國能源部的洛斯阿拉莫斯國家實驗室 (Los Alamos National Laboratory),率先宣布計劃打造採用 Grace 的超級電腦,以支援國家級的科學研究。

由於資料量與 AI 模型大小呈指數成長,NVIDIA 宣布推出 Grace。當今最大型的 AI 模型包含數十億個參數,且每兩個半月就會增加一倍。訓練這些模型需要一個能與 GPU 緊密結合的全新 CPU,才能消除系統瓶頸。

NVIDIA 利用 Arm 資料中心架構極為優異的彈性來打造 Grace。藉由導入全新伺服器級的 CPU,NVIDIA 正在 AI 與高效能運算社群推動科技多元化的目標,而選擇解決方案是解決全球最為迫切問題所需的創新關鍵。

Arm 執行長 Simon Segars 表示:「Arm 作為全球授權最為廣泛的處理器架構,每天都以令人難以置信的新方式帶動創新。NVIDIA 推出 Grace 資料中心 CPU,完美展現 Arm 的授權模型如何促成重要的科技創造,這項創造將進一步支援全球各地 AI 研究人員與科學家的驚人表現。」


Grace 的首批採用者推進科學與 AI 極限

瑞士國家超級運算中心與洛斯阿拉莫斯國家實驗室雙雙計劃於 2023 年,讓採用 Grace 並由慧與科技 (Hewlett Packard Enterprise) 所打造的超級電腦正式上線。

瑞士國家超級運算中心主任 Thomas Schulthess 教授表示:「NVIDIA 新穎的 Grace CPU 讓我們得以融合 AI 技術與經典的超級運算,解決運算科學界最棘手的問題。我們很高興能為我們在瑞士與全球各地的用戶提供 NVIDIA CPU,以處理與分析大量且複雜的科學資料集。」

洛斯阿拉莫斯國家實驗室主任 Thom Mason 表示:「由於這套次世代系統在記憶體頻寬與容量間取得創新的平衡,將決定我們機構的運算策略。借助 NVIDIA 全新的 Grace CPU,我們將可以使用高保真度的 3D 模擬與分析功能,並以較過往更大量的資料集進行先進的科學研究。」


提供具突破性的效能

Grace 效能的基礎是第四代 NVIDIA NVLink® 互聯技術,其可以在 Grace CPU 與 NVIDIA GPU 間,提供創紀錄的 900 GB/s 連結傳輸速度,與當今技術領先的伺服器相比,聚集頻寬提升三十倍。

Grace 也將採用創新的 LPDDR5x 記憶體次系統,與 DDR4 記憶體相比,提供兩倍的頻寬以及十倍的能源效率。此外,全新的架構利用單一記憶體位址空間,提供統一的快取記憶體一致性,並結合系統與高頻寬記憶體 (HBM) GPU,簡化可編程性。

Grace 將由 NVIDIA 高效能運算軟體開發套件以及全套的 CUDA® 與 CUDA-X™ 函式庫支援,可以加速超過 2,000 個 GPU 應用,並為從事全球最重要挑戰的科學家與研究人員,加速探索的腳步。

NVIDIA Grace CPU 預計將於 2023 年年初上市。

欲瞭解更多相關內容,敬請關注 4 月 12 日至 16 日於線上登場的 GPU 技術大會 (GTC21),活動為免費報名註冊