AI 應用 AMD Threadripper Halo Station 主機可搭 4 張 MI350P,最高 576GB HBM3e

soothepain

full loading
已加入
9/17/03
訊息
23,641
互動分數
2,021
點數
113
網站
www.coolaler.com
AMD 在 IFA 2026 展出了 Threadripper Halo Station,這是一款針對本地 AI 運算打造的高階工作站,目前仍屬於原型機,預計 2027 年推出。它的規格已經很難用一般高階桌機來形容,AMD 直接放進 Ryzen Threadripper PRO 9995WX 處理器,再搭配 Instinct MI350P 加速卡,整台機器的設計方向明顯是給需要在本機執行大型 AI 模型的使用者,而不是拿來玩遊戲或做一般桌面工作。

AMD-Threadripper-Halo-Station-1.jpg


處理器採用 Zen 5 架構的 Threadripper PRO 9995WX,擁有 96 核心、192 執行緒,最高時脈 5.4GHz,並配備 384MB 快取。記憶體最高可以安裝 2TB DDR5 RDIMM;GPU 部分則可配置最多四張 Instinct MI350P,每張卡搭載 144GB HBM3e,因此完整配置可以提供 576GB HBM3e。再加上 CPU 端的系統記憶體,整台機器的記憶體容量可以達到 2.6TB。

AMD-Threadripper-Halo-Station-2.jpg


AMD 在 IFA 現場展示的樣機並沒有塞滿四張 GPU,而是使用兩張 MI350P,合計 288GB HBM3e。按照 AMD 公布的規格,如果未來配置四張卡,GPU 記憶體頻寬與總體記憶體頻寬也會進一步拉高,官方資料顯示整套平台的總記憶體頻寬最高可達 16.4TB/s。這種數字已經不是一般工作站拿幾條 DDR5、裝一張高階顯卡就能比較的範圍,Halo Station 的定位其實更接近把一套小型 AI 運算節點縮進桌上型工作站裡。

AMD-Threadripper-Halo-Station-3.jpg


AMD 希望 Halo Station 處理的是大型語言模型的訓練、微調與推論,並且強調可以在本地執行超過 1 兆參數的模型。這點其實比單純堆 CPU 核心更值得注意,因為目前很多 AI 應用即使可以在本機執行,模型一旦變大,很快就會碰到 GPU VRAM 不夠的問題。一般消費級顯卡即使擁有 32GB 或 48GB 記憶體,面對大型模型仍然相當有限,而 MI350P 單卡就是 144GB HBM3e,四張卡則有 576GB。

Halo Station 的競爭對象也因此不是一般 Threadripper 工作站,而是 NVIDIA 的 DGX Station。NVIDIA 的 GB300 DGX Station 同樣是把資料中心級 AI 硬體放進工作站形式的設備,官方規格提供 252GB HBM3e GPU 記憶體以及 496GB LPDDR5X CPU 記憶體;AMD 則是把四張 MI350P 的配置直接推到 576GB HBM3e,完整系統記憶體可以達到 2.6TB。兩邊走的路線不完全相同,但目標非常接近,都是讓企業或研究人員不用把每一次模型開發都丟回資料中心處理。

當然,這種硬體的價格也不會是一般工作站的等級。AMD 目前沒有公布 Threadripper Halo Station 的正式售價,而且距離 2027 年上市還有一段時間,因此現階段只能參考外部估算。外媒估計,如果按照完整配置打造,整機價格可能超過 15 萬美元,光硬體零組件成本就可能超過 10 萬美元。

15 萬美元換算下來大約是新台幣 470~480 萬元。如果拿 NVIDIA DGX Station 來看,GB300 系統目前市場上的價格也大約落在 10 萬美元上下,因此 Halo Station 就算最後真的落在數百萬元台幣,也不算特別意外。

對一般 PC 使用者而言,這個價格自然沒有什麼討論空間。平常打遊戲、剪片、跑一般 AI 工具,甚至是自己玩一些本地大型語言模型,都沒有必要上到這種等級;現在消費級 GPU 的記憶體雖然不算特別大,但成本仍然遠低於整套 Halo Station。如果只是想在電腦上使用 AI,雲端服務通常也便宜得多。

真正會考慮這種設備的,反而是需要長時間處理大型模型,而且對資料不能離開本地環境有要求的企業、研究機構或 AI 開發團隊。

AMD 目前仍把 Threadripper Halo Station 稱為原型產品,上市時間鎖定 2027 年,價格與最終硬體配置都還沒有公布。這次 IFA 展示比較像是在先把 AMD 對本地 AI 工作站的答案拿出來,至於最後會有多少公司或企業買得下手、又有多少工作負載值得放在本地跑,恐怕要等正式產品與售價公布後才知道。