運用 NVIDIA RTX AI PC 與 DGX Spark，在 Unsloth 中更快速地微調主流 AI 模型，打造專屬於學習、工作、創意專案等情境的個人化助理，同時搶先體驗全新開放模型系列 Nemotron Nano 3
現代化的工作流程正不斷展現生成式 AI 與代理式 AI 在 PC 上的無限可能性。舉例來說，使用者可以微調聊天機器人來處理產品支援問題，或打造協助行程管理的個人助理。然而，如何讓小型語言模型在特定代理式任務中，長期維持高度準確且一致的回應品質，仍是一項關鍵挑戰，而這正是微調發揮關鍵作用的地方。
Unsloth 作為全球應用最廣泛的開源大型語言模型（LLM）微調（Fine-Tune）框架之一，提供了一種易於上手的模型客製化方案。其專為 NVIDIA 顯示卡進行高效率、低記憶體占用的訓練最佳化，支援從 GeForce RTX 桌上型電腦與筆記型電腦、RTX PRO 工作站，到全球最小的 AI 超級電腦 DGX Spark。
另一個強大的微調起點，則是近期推出的 NVIDIA Nemotron 3 系列開放模型、資料與函式庫。Nemotron 3 為目前最具效率的開放模型系列，非常適合用於代理式 AI 的微調應用 。
教會 AI 新技能
微調就像是為 AI 模型進行專注的訓練課程。透過與特定主題或工作流程相關的範例資料，讓模型能透過學習新的模式並適應當前任務來提升準確度。選擇模型的微調方法取決於開發者希望調整原始模型的程度。依據不同目標，開發者可採用以下三種主要微調方法之一：
一、參數高效微調（Parameter-Efficient Fine-Tuning，如 LoRA 或 QLoRA）
- 運作原理：僅更新模型的一小部分參數，以更低成本、更快速度完成訓練，是在不大幅改變模型結構下提升能力的高效率方式。
- 適用場景：幾乎適用所有傳統的完整微調可應用的情境，包括導入特定領域知識、提升程式碼準確性、使模型適用於法律或科學任務、強化推理能力，或調整語氣與行為一致性。
- 需求條件：小至中等規模資料集，約需要 100 – 1,000 組提示詞對樣本。
二、完整微調（Full Fine-Tuning）
- 運作原理：更新模型的所有參數，用來訓練模型遵循特定格式、風格或行為準則。
- 適用場景：進階應用情境，例如建構必須嚴格遵循規範、專注於特定主題，並以固定方式回應的 AI 代理或聊天機器人
- 需求條件：大規模資料集，需要1,000 組以上提示詞對樣本。
三、強化學習（Reinforcement Learning）
- 運作原理：透過回饋或偏好訊號來調整模型行為。模型藉由與環境互動進行學習，並透過回饋持續改進，是一種將訓練與推論交織在一起的進階技術，可與參數高效微調及完整微調搭配使用。詳情可參考 Unsloth 的《強化學習指南》。
- 適用場景：提升模型在特定領域，如法律或醫療中的準確性，或打造能代替使用者執行任務的自主型 AI 代理。
- 需求條件：需具備完整流程，包括行動模型（Action Model）、獎勵模型（Reward Model）與學習環境。
另一項重要考量因素，則是各種方法所需的顯示記憶體（VRAM）。下方圖表（原文所示）提供在 Unsloth 上執行各種微調方法的需求概覽。
Unsloth：在 NVIDIA 顯示卡上實現高效微調的捷徑
LLM 微調是一項高度耗費記憶體與運算資源的工作負載，每個訓練步驟都需執行數十億次矩陣乘法運算來更新模型權重。這類高強度的平行運算工作負載，必須仰賴 NVIDIA 顯示卡的強大算力，才能高效完成。
Unsloth 正是針對這類需求而設計，能將複雜的數學運算轉換為高效率的客製化顯示卡核心，大幅加速 AI 訓練流程。在 NVIDIA 顯示卡上，Unsloth 可將 Hugging Face Transformers 函式庫效能提升最高達 2.5 倍。這些針對顯示卡的專屬最佳化方案，結合 Unsloth 簡易的操作特性，讓廣泛的 AI 愛好者與開發者社群得以輕鬆進行模型微調。
該框架專為 NVIDIA 硬體打造並進行進行最佳化，涵蓋從 GeForce RTX 筆記型電腦、RTX PRO 工作站到 DGX Spark，在降低記憶體消耗的同時提供巔峰效能。
Unsloth 亦提供一系列實用指南，協助使用者快速上手並管理不同的 LLM 設定、超參數與選項，並附有範例筆記本與逐步教學流程。
更多 Unsloth 教學資源敬請參考：
使用 NVIDIA RTX 50 系列顯示卡與 Unsloth 進行 LLM 微調
使用 NVIDIA DGX Spark 與 Unsloth 進行 LLM 微調
另亦可透過相關連結瞭解如何在 NVIDIA DGX Spark 上安裝 Unsloth，或閱讀 NVIDIA 官方部落格，深入探索 NVIDIA Blackwell 平台上進行微調與強化學習的相關內容。
現已推出：NVIDIA Nemotron 3 開放模型系列
全新的 Nemotron 3 開放模型系列，包含 Nano、Super 與 Ultra 三種規模，採用全新的混合式潛在（hybrid latent）混合專家（MoE）架構打造，兼具高效率與高準確度，非常適合用於建構代理式 AI 應用。
目前已推出的 Nemotron 3 Nano 30B-A3B，是該系列中運算效率最高的模型，專為軟體除錯、內容摘要、AI 助理工作流程與資訊檢索等任務進行最佳化，具備較低的推論成本。其 MoE 架構帶來以下優勢：
- 推論詞元（token）數量最高可減少 60%，顯著降低推論成本
- 支援高達 100 萬詞元的上下文處理能力，能處理更長、更複雜的多步驟任務
Nemotron 3 Nano 目前可於 Hugging Face 下載，或透過 Llama.cpp 與 LM Studio 體驗。
DGX Spark：桌上型的 AI 超級運算核心
DGX Spark 讓開發者能在本地完成微調訓練，將強大 AI 效能整合於精巧的桌上型電腦中，為開發者提供遠超一般 PC 的記憶體規模。
DGX Spark 採用 NVIDIA Grace Blackwell 架構打造，在 FP4 的精度下，最高可提供1 PFLOP 的AI 運算效能，並搭配 128GB 統一 CPU 與 GPU 記憶體，使開發者能在本地執行更大規模模型、更長上下文，以及更高負載的訓練任務。
在微調應用方面，DGX Spark 可實現：
- 支援更大規模模型：參數規模超過 30B 的模型通常超出消費級顯示卡的 VRAM 容量，但可輕鬆運行於 DGX Spark。
- 進階訓練技術：完整微調與基於強化學習的工作流程，對記憶體與吞吐量需求更高，在 DGX Spark 上執行可顯著提升速度。
- 本地自主運算：開發者可在本地執行高運算負載任務，無需等待雲端資源或管理多重環境。
DGX Spark 的優勢不僅限於 LLM，以高解析度擴散模型為例，往往需要超出一般桌上型系統所能提供的記憶體容量，透過 FP4 支援與大容量統一記憶體，DGX Spark 可在短短數秒內生成上千張影像，為創意或多模態工作流程提供更高且穩定的吞吐量。
下表展示了在 DGX Spark 上對 Llama 系列模型進行微調的效能表現。
隨著微調工作流程持續演進，全新的 Nemotron 3 開放模型系列，為 RTX 系統與 DGX Spark 帶來可擴展的推理能力與長上下文效能最佳化。
欲深入瞭解 DGX Spark 如何支援高強度 AI 工作負載，敬請造訪相關連結。
別錯過NVIDIA RTX AI PC 的最新動態
- LUX.2 影像生成模型正式推出，專為 NVIDIA RTX 顯示卡進行最佳：Black Forest Labs 推出的新模型支援 FP8 量化技術，可降低記憶體需求，並將效能提升最高達 40%。
- Nexa.ai 透過 Hyperlink 為 RTX PC 擴展本地 AI，實現代理式搜尋：這款全新裝置端搜尋代理程式可將檢索增強生成（RAG）索引速度提升 3 倍，LLM 推論速度提升 2 倍，讓高密度 1GB 資料夾的索引時間從約 15 分鐘縮短至僅 4 至 5 分鐘。此外，DeepSeek OCR 現可透過 NexaSDK 以 GGUF 格式於本地運行，可在 RTX 顯示卡上即插即用地解析圖表、公式與多語言 PDF。
- Mistral AI 推出全新模型系列，並針對 NVIDIA 顯示卡進行最佳化：全新的 Mistral 3 模型自雲端至邊緣端全面最佳化，可透過 Ollama 與 Llama.cpp 快速進行本地實驗。
- Blender 5.0 正式發布，搭載 HDR 色彩與效能提升：此版本新增 ACES 2.0 廣色域與 HDR 色彩功能，導入 NVIDIA DLSS，可將毛髮與皮毛渲染速度提升最高達 5 倍，同時改善大規模幾何體處理能力，並為 Grease Pencil 新增動態模糊效果。