跳到主要內容
LFM2.5 上下文擴至 131K,支援本地 agent
/閱讀約 3 分鐘/

LFM2.5 上下文擴至 131K,支援本地 agent

Liquid AI 發布 LFM2.5-24B-A2B,將上下文從 32K 擴至 131K,採用推理後回答的模式,並強化工具工作流。本文整理開放權重、Playground、API 與本地推論入口,說明它適合哪種 agent,以及為何不能把啟用參數當成整套模型大小。

Liquid AI 在 10 月 13 日發布 LFM2.5-24B-A2B,總參數 24B、每個 token 啟用 2B。相較前代,這次把上下文從 32K 擴至約 131K,並改為先推理、再給最終答案的模式,主打在自己的裝置上執行多步驟 agent。來源:Liquid AI 官方發布

這次更新了哪些能力?

官方同步提供基礎版與後訓練版權重。後訓練版針對推理、指令遵循與工具任務設計;訓練過程也放進 Hermes Agent、OpenClaw、Pi、OpenCode 等執行環境,讓模型處理連續的工具操作。

詞彙表從約 65K 擴至 128K,官方表示用來改善非拉丁文字的切詞。這是語言處理設計的變更,不能直接解讀為繁中回答品質已獲本站驗證。本文沒有執行模型或比較中文成績。來源:官方技術介紹

官方將工具使用與指令遵循列為強項,也承認較大模型在知識密集與部分程式題仍有優勢;知識需求較重時,建議搭配檢索或搜尋。這讓它的定位更明確:優先服務需要規劃、呼叫工具與持續處理任務的本地 agent。

上下文擴大後,可以接收更多對話與工具結果;推理模式也會在最終答案之前產生思考內容。應用若原本只處理最終文字,要確認框架如何分隔這些訊息,避免直接把所有內容顯示給使用者。

權重、試用與本地工具都有入口

想先看回覆,可使用官方 Playground;要放進應用,有 Liquid Console 的 API 路線。自行部署則可下載 Hugging Face 權重,官方列出 llama.cpp、MLX、vLLM、SGLang 與 ONNX 支援,分別對應端側或伺服器用途。

本地 agent 的接法是先啟動相容 OpenAI 介面的模型服務,再把 agent 指向本機位址,開啟工具呼叫。官方指南提供不同後端與 agent 的設定;其中預設範例使用另一個較小模型,套用時要換成這次的型號。來源:本地 agent 文件

需要在裝置上處理資料、又已有 agent 工作流的人,可以優先看這條路。啟用 2B 不等於只需儲存 2B 權重,設備容量仍要核對。接線概念可搭配 Hermes Agent 的本地整合閱讀。