最近大家都在聊 AI 代理(AI Agent)幫你自動做事,但真要把它搬進日常電腦裡,光靠模型聰明還不夠,硬體跟軟體也得搭得上才行。AMD 宣布與 Unsloth 合作,讓 Unsloth Desktop 正式支援 NPU 加速,而且首批吃得到紅利的,就是 AMD 自家的 XDNA 2 架構 NPU,成了該軟體全球首款支援的 NPU 方案。說白了,就是讓筆電裡那顆平常好像存在感不高的 AI 晶片,終於有正事可以幹了。

這套整合是透過 Lemonade 與 FastFlowLM(FLM) 串接起來的,讓 Unsloth 的使用者可以直接把模型推論丟給 NPU 處理,在自己電腦本機端跑 AI 代理,不用什麼事都往雲端丟。更實用的是,Unsloth Desktop 還提供了相容 OpenAI 格式的本機 API 介面,等於替超過一百款 AI 代理工具與工作流程開了一扇窗,像 Hermes Agent、OpenClaw、Open WebUI、Cline、OMP 甚至 VS Code 都能直接接上來用,不論是寫程式輔助還是串接自動化任務,都能直接呼叫本機 NPU 算力。
對帶筆電出門、不想一直找插座找半天的人來說,這點其實挺有感。XDNA 2 NPU 本身就是為低功耗 AI 推論設計的,把適合的運算交給它,一方面能幫筆電省點電、延長拔掉插頭撐的時間,另一方面也能把 CPU 和 GPU 資源空出來給其他程式用(當然前提是記憶體容量得夠罩)。
這合作算是把本機跑 AI 代理往日常實用推了一步,尤其對習慣在筆電上掛著背景小幫手、又不想讓風扇整天呼呼叫或電池秒噴電的使用者來說,多了一條省電路線總歸是好事。至於實際跑起來有多順、支援的模型與情境夠不夠廣,就等大家裝起來實測見真章了。

這套整合是透過 Lemonade 與 FastFlowLM(FLM) 串接起來的,讓 Unsloth 的使用者可以直接把模型推論丟給 NPU 處理,在自己電腦本機端跑 AI 代理,不用什麼事都往雲端丟。更實用的是,Unsloth Desktop 還提供了相容 OpenAI 格式的本機 API 介面,等於替超過一百款 AI 代理工具與工作流程開了一扇窗,像 Hermes Agent、OpenClaw、Open WebUI、Cline、OMP 甚至 VS Code 都能直接接上來用,不論是寫程式輔助還是串接自動化任務,都能直接呼叫本機 NPU 算力。
對帶筆電出門、不想一直找插座找半天的人來說,這點其實挺有感。XDNA 2 NPU 本身就是為低功耗 AI 推論設計的,把適合的運算交給它,一方面能幫筆電省點電、延長拔掉插頭撐的時間,另一方面也能把 CPU 和 GPU 資源空出來給其他程式用(當然前提是記憶體容量得夠罩)。
這合作算是把本機跑 AI 代理往日常實用推了一步,尤其對習慣在筆電上掛著背景小幫手、又不想讓風扇整天呼呼叫或電池秒噴電的使用者來說,多了一條省電路線總歸是好事。至於實際跑起來有多順、支援的模型與情境夠不夠廣,就等大家裝起來實測見真章了。









