gb200 nvl72

  1. soothepain

    AI 應用 Kimi K2 Thinking、DeepSeek-R1 等模型在 NVIDIA GB200 NVL72 上運行速度提升10倍

    目前最智慧的前 10 大開源模型,均採用混合專家(MoE)架構。 Kimi K2 Thinking、DeepSeek-R1、Mistral Large 3 等模型在 NVIDIA GB200 NVL72 上的運行速度可提升達 10 倍。 當今幾乎所有前沿模型在底層架構中,皆採用模擬人腦效率的混合專家(MoE)模型架構。 正如大腦會根據任務啟動特定區域,混合專家模型將工作分配給專門的「專家」,僅針對每個 AI 詞元啟動相關的專家。這使得詞元的產生速度更快、效率更高,而無需成比例地增加運算量。 業界已經認可這項優勢。在獨立的 Artificial...
  2. soothepain

    AI 應用 NVIDIA 貢獻 Blackwell 平台設計供開放式硬體生態系使用

    NVIDIA 貢獻 GB200 NVL72 設計與 NVIDIA Spectrum-X,助力加速推動下一場產業革命 為推動發展開放、高效且具擴充能力的資料中心技術,NVIDIA 今日宣布已將 NVIDIA Blackwell 加速運算平台設計的基礎要素貢獻給開放運算計畫(OCP)使用,並且擴大 NVIDIA Spectrum-X™ 支援 OCP 標準的程度。 NVIDIA 在今年的 OCP 全球高峰會上,將與 OCP 社群分享 NVIDIA GB200 NVL72 系統機電設計的關鍵組成,包括機架架構、運算與交換器托盤機構、液冷與熱環境規格,以及 NVIDIA NVLink™...