新訊AI 應用

Sam Altman 批個人電腦裝太多 RAM 是浪費!倡導雲端資料中心效益更高

在記憶體價格居高不下、PC DIY 玩家苦不堪言的當口,OpenAI 執行長 Sam Altman 的最新言論無疑是往玩家的傷口上撒鹽。Altman 在與 Stripe 共同創辦人 John Collison 的《Cheeky Pint》播客訪談中表示,將大量記憶體(DRAM)安裝在個人電腦裡跑地端 AI,是對全球極度緊缺的 DRAM 資源一種相當糟糕且低效的分配,並強調將這些資源集中在雲端資料中心才能發揮最大價值。

gskill08081.jpg


Altman 針對目前許多人熱衷於利用地端開源模型(Local AI)來替代雲端算力的趨勢發表看法。他直言,從全球資源配置的角度來看,讓每個人電腦裡都塞滿全球稀缺的 DRAM,而且運作時間大概只有 5%,這種做法簡直是暴殄天物。在他看來,透過共享的雲端基礎設施來最大化記憶體的利用率,才是當前產能受限下的最解。


這番話一出,立刻在社群與玩家圈炸開了鍋。畢竟目前消費級 DRAM 市場之所以陷入歷史級別的嚴重缺貨與暴漲,罪魁禍首正是 AI 巨頭們在資料中心擴建上的瘋狂抽血。以日本市場為例,部分高容量 DDR5 記憶體套條價格在過去一年內暴漲了高達 761%;先前幾百美元就能買到的 32GB 套裝,現在甚至出現開價破千美元的離譜現象。

雖然 Altman 從經濟學與資源利用率的角度來看看似有其邏輯,但對於硬體玩家與重視隱私的使用者來說,地端運算(Local Computing)所帶來的離線可用性、個人資料絕對掌控權,以及不受制於訂閱制服務的自由度,是中心化雲端資料中心永遠無法取代的優勢。

儘管 Altman 的本意是在討論地端 AI 推論的效率問題,而非直接叫大家別買記憶體,但在這個玩家連升級 32GB 都要掂掂錢包的時代,這番不如把 DRAM 都留給我們雲端的言論,聽在廣大 PC 迷耳裡,只怕只會被歸類為賣雲端服務的又在合理化自家搶資源的風涼話罷了。