DeepSeek 开源大规模推理框架 DeepInfer

2026 年 10 月 20 日，DeepSeek 开源了推理框架 DeepInfer。据开源中国报道，这次放出的不是模型，而是负责算力调度与成本控制的中间层；在海量用户调用时，由推理框架统筹调度算力集群，其效率直接决定 AI 服务的算力成本。同日，智东西报道称，DeepSeek 开源的是其内部使用的大规模云服务推理框架 DeepInfer，以及生产级 token 编解码组件 deepseek-recipe。DeepInfer 集成了高性能算子和深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，可在英伟达与华为昇腾平台上运行。

据 DeepSeek 团队公布，DeepSeek V4.1 Flash 的高吞吐、低延迟大规模推理服务正是基于该框架实现，目前单一集群的服务吞吐为 155 万亿 Tokens/天，整体收入按谷价计算是每卡每小时 38 美金（约合人民币 253.81 元）。deepseek-recipe 支持主流大模型 API 协议与模型 Tokens 之间的编解码，处理逻辑与 DeepSeek 官方 API 完整对齐，可确保第三方部署获得与官方部署一致的结果。

掘金同日发布的拆解文章则依据官方仓库和部署 Q&A，提到 Wide-EP、长期 KVCache、SWA Bounded Replay 和动态投机解码，并解释了 KVCache 存三天、投机解码少验 30% 的实现方式。三篇报道对开源内容的描述侧重不同：开源中国强调其作为算力调度与成本控制中间层的定位，智东西补充了 deepseek-recipe 组件与吞吐、收入数字，掘金则聚焦具体技术机制。目前公开信息停留在框架与组件已开源、官方仓库和部署 Q&A 可供查阅这一步。