Hugging Face 釋出具備思維鏈能力的端側模型 LFM2.5-24B-A2B

2026 年 10 月 14 日，Hugging Face 宣佈推出具備顯式思維鏈推理能力的端側推理模型 LFM2.5-24B-A2B。該模型基於 LFM2-24B-A2B 構建，保持了原有的架構設計，包括 40 層網路、每個 MoE 塊 64 個專家、採用 top-4 路由機制，並延續了門控短卷積與 GQA 的混合架構。在能力提升方面，LFM2.5-24B-A2B 的上下文視窗從 32K 擴充套件至 131K tokens，並通過原地分詞器擴充套件將詞表從 65K 翻倍至 128K tokens，從而改善了非拉丁字元的分詞效果。

與前代模型不同，這是一個專注於推理的模型，能夠在輸出最終答案之前生成顯式的思維鏈。在訓練規模方面，其預訓練階段處理的 token 數量從約 17T 擴大到約 33T。隨後的中期訓練階段增加了兩個部分：一是 2T tokens 的 32K 上下文資料，側重於推理、數學、程式碼、指令遵循和多語言文本；二是 300B tokens 的 131K 上下文資料，側重於長文本資料。

此外，工具呼叫和多輪互動軌跡貫穿了整個訓練過程，該模型專為裝置端高效執行和代理工具呼叫而設計。