LiquidAI 发布 LFM2.5-24B-A2B 端侧推理模型并开源

2026 年 10 月 14 日，Hugging Face 宣布推出具备显式思维链推理能力的端侧推理模型 LFM2.5-24B-A2B。该模型基于 LFM2-24B-A2B 构建，保持了原有的架构设计，包括 40 层网络、每个 MoE 块 64 个专家、采用 top-4 路由机制，并延续了门控短卷积与 GQA 的混合架构。在能力提升方面，LFM2.5-24B-A2B 的上下文窗口从 32K 扩展至 131K tokens，并通过原地分词器扩展将词表从 65K 翻倍至 128K tokens，从而改善了非拉丁字符的分词效果。

与前代模型不同，这是一个专注于推理的模型，能够在输出最终答案之前生成显式的思维链。在训练规模方面，其预训练阶段处理的 token 数量从约 17T 扩大到约 33T。随后的中期训练阶段增加了两个部分：一是 2T tokens 的 32K 上下文数据，侧重于推理、数学、代码、指令遵循和多语言文本；二是 300B tokens 的 131K 上下文数据，侧重于长文本数据。

此外，工具调用和多轮交互轨迹贯穿了整个训练过程，该模型专为设备端高效运行和代理工具调用而设计。