AI 應用 透過 AMD Ryzen AI 和 RX 7000 系列顯示卡體驗 Meta Llama 3

soothepain

full loading
已加入
9/17/03
訊息
20,861
互動分數
1,922
點數
113
網站
www.coolaler.com
AMD的AI策略著重於透過廣泛的訓練和推論運算引擎組合、開放且成熟的軟體功能來支援產業體系,並透過共同創新培育AI產業體系。

amd_meta_llama3.jpg


透過搭載AMD Ryzen AI的AI PC或AMD Radeon RX 7000系列顯示卡,AMD客戶無需任何編碼技能,即可完全在本地體驗Meta近期發佈的Llama 3模型,其為Meta迄今為止功能最強的開源模型,在HumanEval、GPQA、GSM-8K、MATH和MMLU基準測試中取得出色的成績。Llama 3具備80億和700億參數模型,前者適用於客戶使用案例,後者適用於更多的資料中心和雲端使用案例。

AMD Ryzen 7040系列行動處理器(Ryzen 5 7540U和Ryzen 3 7440U處理器除外)和AMD Ryzen 8040系列行動處理器(Ryzen 5 8540U和Ryzen 3 8440U處理器除外)配備了專為處理新興AI工作負載而設計的神經網路處理器(NPU)。高達16 NPU TOPS(每秒兆次運算)的處理效能讓使用者以卓越的能源效率執行AI工作負載。AMD Ryzen AI APU更包括CPU和iGPU,用於處理隨需(on-demand)任務。

AMD將繼續致力於推進AI,讓各行各業都能使用新一代AI模型,並從AI中全面獲益。而AMD AI PC讓每個人都能從AI消費性應用的成長中受益。

欲了解更多關於AMD Ryzen AI的資訊,請參閱此連結。欲了解更多關於AMD Ryzen AI PC的資訊,請觀看此影片。欲了解如何在AMD硬體上快速輕鬆地執行Meta的Llama 3 Instruction 80億參數模型,請參閱AMD部落格文章
 
▌延伸閱讀