meta

  1. soothepain

    AI 應用 AMD 押一成股權換 Meta AI 訂單,MI450 與次世代 EPYC 全面進場

    AMD為了搶下下一波 AI 基礎建設訂單,這次下了重注。AMD 宣布與 Meta 達成多年、多世代合作協議,內容涵蓋 Instinct GPU、EPYC 伺服器處理器與整機櫃級 AI 系統部署。根據雙方說法,這是一筆規模上看「數千億美元」等級的基礎建設合作,電力部署規模將達 6GW。 這筆合作的核心,在於 AMD 將為 Meta 提供客製化版本的 Instinct MI450 AI 加速器,以及下一代 EPYC Venice 與 EPYC Verano 伺服器處理器。Venice 屬於 Zen 6 架構世代,Verano 則被視為 Zen 7 產品,意味著 Meta 幾乎提前鎖定...
  2. soothepain

    AI 應用 全面開放:NVIDIA 加速 Meta Llama 3 上的推論

    採用 NVIDIA 技術構建的Meta 最新開放大型語言模型經過最佳化, 可在從雲端和資料中心到邊緣和個人電腦的 NVIDIA GPU 上運行 NVIDIA今天宣布對其所有平台進行最佳化,以加速最新一代大型語言模型(LLM)Meta Llama 3。 此開放式模型與 NVIDIA 加速運算相結合,使開發人員、研究人員和企業能夠在各種應用中負責任地進行創新。 在 NVIDIA AI 上訓練 Meta 的工程師們使用了一個搭載 24,576 個 NVIDIA H100 Tensor 核心 GPU 的電腦叢集,與 NVIDIA Quantum-2 InfiniBand...