DeepSeek 开源推理框架 DeepInfer
2026/10/22 — 10/24 16:24·2 个来源（全部）·3 篇报道（全部）
核心速览 (Key Takeaways)
- DeepSeek 将其线上服务使用的推理框架 DeepInfer 开源，官方称单集群每天可处理 155 万亿 token，谷电价下每张卡每小时收入 38 美元。
- 该框架面向生产级推理负载，作者在看到这组数字后翻看了代码以确认其实际能力。
事件背景与详细解读
2026 年 10 月 22 日下午，掘金上出现一篇题为《DeepSeek 开源生产级推理框架 DeepInfer》的报道，披露 DeepSeek 已把用于线上服务的推理框架 DeepInfer 开源。文章援引官方说法称，该框架单集群每天可处理 155 万亿 token，在谷电价下每张卡每小时收入 38 美元；作者表示，看到这组数字后的第一反应是去翻看代码。
同日上午 10:24，掘金已先行刊出《DeepInfer 完全教程：DeepSeek 推理框架原理与部署》一文，解析 DeepInfer 的原理、架构与部署实践。文章指出，DeepInfer 的价值不在于支持多少模型，而在于为把单个模型跑快愿意做多深的定制。目前公开信息仍停留在这两次发布，未见官方对开源细节或性能数据作进一步说明。
AI 综合 2 篇报道生成 · 更新于 3 小时前
最新进展DeepSeek 把线上服务使用的推理框架 DeepInfer 开源，官方称单集群每天可处理 155 万亿 token，谷电价下每张卡每小时收入 38 美元。文章作者表示，自己看到这组数字后先去翻看了代码。
相关 AI 工具
- 热度指数
- 25
- 全部来源
- 2
- 全部报道
- 3
- 首报
- 2 天前
这件事的报道 点标题看原文
DeepSeek 把线上服务使用的推理框架 DeepInfer 开源，官方称单集群每天可处理 155 万亿 token，谷电价下每张卡每小时收入 38 美元。文章作者表示，自己看到这组数字后先去翻看了代码。
看清 DeepSeek 线上推理的吞吐与成本量级
掘金AI 评分 68掘金上的一篇教程解析 DeepSeek 内部推理框架 DeepInfer 的原理、架构与部署实战。文章指出，DeepInfer 的价值不在支持多少模型，而在于为把单个模型跑快愿意做多深的定制。
适合想部署 DeepSeek 推理的开发者参考。
掘金AI 评分 58
DeepSeek 开源了其生产服务背后的推理引擎 DeepInfer，并在单节点 8×B300 环境下将其与 vLLM 进行了基准对比。测试显示 vLLM 在解码速度和预填充吞吐量上表现更快，最高可达 658K tokens/s 的预填充速率。
DeepSeek 开源生产级推理引擎 DeepInfer 并与 vLLM 进行性能跑分对比。
DEV Community · AIAI 评分 62
同时在说的其他事
- 热度指数 25美国 DHS 下令联邦民事机构移除 DeepSeek1 个来源
- 热度指数 178DeepSeek 和 MiniMax 获批用于 AI 全球使用4 个来源
- 热度指数 372DeepSeek 完成约 1000 亿元融资，宁德时代腾讯等参与8 个来源
- 热度指数 48DeepSeek Harness 的 Skill 加载全流程解析1 个来源
- 热度指数 141DeepSeek V4.1 Flash 1017 网络安全评测公布3 个来源
热度怎么算的？了解口径收起
热度按 48 小时内有多少个独立来源在说这件事算：同一个来源发多条只算一次，并按 24 小时半衰期衰减，所以排前面的是很多人在说的事。
本页汇总公开订阅源，标题与摘要由模型整理，版权归原作者所有；重要信息请回原文核对。如权利人认为相关标题或摘要侵权，请通过页尾联系邮箱提供具体页面与权利依据，我们核实后会及时删除或替换。
- 爆
- 讨论快速增加
- 新
- 首报 6 小时内
- 发酵中
- 讨论仍在增加