Unsloth 創辦人的舊影片，一年後還被封「勝過 $5000 微調課」

一支 2025 年 7 月錄的工作坊影片，放到現在剛好滿一年。

2026 年 7 月，它又在 X 上被翻出來，還被說成「比 5000 美元的微調訓練營還值」。講的人是 Unsloth 的共同創辦人 Daniel Han，內容橫跨強化學習、GPU kernel、量化壓縮、Agent，一次講了兩小時四十二分鐘。這篇文章查了三件事：這支影片跟講者背景是不是真的、GRPO 跟 DPO 到底在教模型什麼、Unsloth 是不是真的稱得上「微調界的預設工具」。

這支影片到底是什麼、是誰在講

影片全名是《[Full Workshop] Reinforcement Learning, Kernels, Reasoning, Quantization & Agents》，YouTube 頻道是「AI Engineer」，2025 年 7 月 19 日上架，錄製地點是舊金山的 AI Engineer World's Fair 現場。影片的章節時間軸一路排到 02:41:59（結論與行動呼籲），跟「兩小時四十二分鐘」這個說法完全對得上——這不是隨口喊的數字，是真的有這麼長。

講者 Daniel Han 是 Unsloth 的共同創辦人沒錯，但「Ex-NVIDIA 工程師一個人做出 Unsloth」這句話少講了一半。Unsloth 是 2023 年由兩兄弟一起成立的：Daniel Han 之前在 NVIDIA 把 t-SNE 演算法加速了 2000 倍，也在開源社群修過 Gemma、Llama、Mistral、Phi 裡超過 20 個 bug；他弟弟 Michael Han 負責產品和設計。公司 2024 年進了 YC，後面拿到 GitHub Accelerator 和微軟 M12 基金的支持。台上做技術分享的一直是 Daniel，這也是為什麼推文只提到「工程師」——但公司從第一天就是兩個人的。

GRPO 跟 DPO：影片的技術核心，白話版

影片中段花最多時間講的兩個演算法，是這篇文章非解釋不可的部分。

DPO（Direct Preference Optimization，直接偏好優化）：拿兩個回答給模型看，直接跟它說「這個比較好」，模型照著調整權重，不用另外養一個評分模型。適合教模型語氣、風格這種主觀但有共識的東西——比如「回答要更客氣一點」。

GRPO（Group Relative Policy Optimization，群組相對策略優化）：模型對同一個問題一次生出一整組答案，系統照對錯打分（數學題算對就是對，沒有模糊地帶），模型再學著往分數高的那批答案靠。它不需要像 PPO 那樣額外訓練一個「價值網路」去估計每一步的好壞，訓練流程因此簡化不少。DeepSeek-R1 練出推理能力用的正是這個方法，現在也是 Unsloth 支援的核心訓練模式之一。

一句話分工：DPO 教風格，GRPO 教推理。

Triton kernel 跟量化，到底在幹嘛

影片開頭花了不少篇幅講 kernel，這個詞對非技術背景的人不太友善，先拆開講。

Triton kernel 是一種讓工程師直接手寫 GPU 底層運算邏輯的程式語言，比用 PyTorch 內建的通用函式更貼近硬體，跑起來更快。Unsloth 的核心賣點之一，就是團隊自己重寫了一整套 Triton kernel，把 PyTorch 原本沒優化好的運算路徑換掉——這也是它訓練速度能拉到官方宣稱「最多快 30 倍」的主要原因。

量化（quantization） 說白了就是把模型參數的精度從 16-bit 壓縮到 8-bit、4-bit，甚至更低。精度變粗會犧牲一點準確度，換來的是模型體積變小，塞得進 VRAM 更少的 GPU。影片裡示範的案例是把 DeepSeek-R1 壓到 1.58-bit 還能維持堪用的表現——這也是 Unsloth 動態量化技術裡討論度最高的一個案例。

挑底座模型、寫 Triton kernel 加速訓練、量化成 4-bit、跑 GRPO 或 DPO、在單張 GPU 上練出一個推理模型——這條流程串起來看，其實就是把上面這幾個概念全部接成一條生產線。

Unsloth 真的是「預設微調工具」，還是推文自己捧的？

這句話值得查，因為它是整篇推文裡最容易變成廣告詞的一句。查完之後，數字站得住腳。

到 2026 年 7 月，Unsloth 在 GitHub 累積約 68,000 顆星、超過 6,100 次 fork，最新一次發版是 7 月 7 日的「DeepSeek-V4 + NVFP4 Exporting」——代表這不是一個停止維護的舊專案，還在跟著最新模型持續更新。官方數字是每月超過 800 萬到 1000 萬次 Hugging Face 下載，被 Canva、LinkedIn、NASA 這些機構採用。

比星數更有說服力的是：NVIDIA 自己的官方部落格寫過教學，教人怎麼用 Unsloth 在 RTX 消費級 GPU 上微調模型，也寫過怎麼在 Blackwell 架構上用它訓練並規模化到生產環境。市面上做微調的開源工具不只 Unsloth 一家——Hugging Face 的 TRL、Axolotl、LlamaFactory 都還在，各有各的用戶群。但沒有一家像 Unsloth 這樣，同時吃到「星數斷層領先、被硬體廠商自己寫教學背書、模型支援清單幾乎每個月都在更新」這三件事。推文說它是「預設選擇」，不算誇張。

想跟著做，你的 GPU 撐得住這套流程嗎

整套流程——量化到 4-bit 再跑 GRPO/DPO——理論上單張消費級 GPU 就能跑，但「單張 GPU」跟「哪張 GPU」中間還有很大差距。4-bit 量化的 7B、8B 模型，一般 12GB 顯卡就能應付；但影片後段示範的場景牽涉到更大的底座模型加上 RL 訓練同時吃顯存，VRAM 不夠大很容易卡在 OOM。想在本地把這整套流程跑得順一點，麗臺 RTX PRO 5000 Blackwell 48GB 這類工作站顯卡的空間比較有餘裕——48GB 讓你不用一直盯著顯存看臉色，本地微調、跑 RL 訓練都有緩衝空間。

這篇跟入門版怎麼分工

如果你是第一次聽到「微調」這兩個字，直接看這支兩小時四十二分鐘的影片會很痛苦——它假設你已經懂 base model、LoRA、reward function 這些詞。想從頭開始，先看 2026 年微調開源模型入門指南：從 1B 模型起手、用 Google Colab、拿 Unsloth 現成的 notebook 改，門檻低很多。

這篇文章鎖定的是進階那一塊——GRPO/DPO 兩種 RL 演算法怎麼選、Triton kernel 為什麼能加速、量化的極限在哪裡。如果你還沒決定微調是不是自己該走的路，RAG vs 微調 vs Prompting 的決策圖 可以先幫你想清楚要不要走到這一步。想再往 RL 訓練框架深挖，slime 開源 RL 框架 是另一個角度——那篇講的是 GLM 全系列怎麼用類似的思路做後訓練。

利益揭露：本文部分連結為聯盟連結，點擊購買我會獲得回饋，不影響你的價格。

一支放了一年的影片還在被人轉發，比任何新聞稿都更能證明內容禁得起時間。真正的問題不是這支影片值不值得看，是你打算先跟哪一段開始——GRPO 的數學，還是先把自己的 GPU 榨出來跑一次量化。