llama 3

  1. soothepain

    AI 應用 全面開放:NVIDIA 加速 Meta Llama 3 上的推論

    採用 NVIDIA 技術構建的Meta 最新開放大型語言模型經過最佳化, 可在從雲端和資料中心到邊緣和個人電腦的 NVIDIA GPU 上運行 NVIDIA今天宣布對其所有平台進行最佳化,以加速最新一代大型語言模型(LLM)Meta Llama 3。 此開放式模型與 NVIDIA 加速運算相結合,使開發人員、研究人員和企業能夠在各種應用中負責任地進行創新。 在 NVIDIA AI 上訓練 Meta 的工程師們使用了一個搭載 24,576 個 NVIDIA H100 Tensor 核心 GPU 的電腦叢集,與 NVIDIA Quantum-2 InfiniBand...