行业动态
持平
Buoyant 开源 Kinference 推理控制平面
2026/11/07 — 11/07 18:18·1 个来源（全部）·1 篇报道（全部）
核心速览 (Key Takeaways)
- Buoyant 开源了 Kinference，这是一个采用 Apache 2.0 许可、面向 Kubernetes 上 vLLM 的推理控制平面。
- 它提供声明式路由策略、感知 KV-cache 的负载均衡和按租户的指标。
- 据 MarkTechPost 报道，Buoyant 自测显示中位 TTFT 降低 95%。
事件背景与详细解读
2026 年 11 月 7 日，Buoyant 宣布开源 Kinference，这是一个面向 Kubernetes 上 vLLM 的推理控制平面，采用 Apache 2.0 协议。据 MarkTechPost 报道，该项目提供声明式路由策略、感知 KV-cache 的负载均衡和按租户的指标，且 Buoyant 自测中位 TTFT 降低 95%。目前仅有这一家媒体的报道，Kinference 后续是否有正式发布、社区采用或版本更新，材料中均未提及。
AI 综合 1 篇报道生成 · 更新于 7 小时前
24 小时热度热度指数 77 · 峰值 98 · 8 小时前
24 小时前现在
- 热度指数
- 77
- 全部来源
- 1
- 全部报道
- 1
- 首报
- 9 小时前
这件事的报道 点标题看原文
昨天
Buoyant 开源了 Kinference，这是一个面向 Kubernetes 上 vLLM 的 Apache 2.0 推理控制平面。它提供声明式路由策略、感知 KV-cache 的负载均衡和按租户的指标，据 MarkTechPost 报道，Buoyant 自测中位 TTFT 降低 95%。
自建 vLLM 推理服务时，可评估它的路由与缓存调度能力
MarkTechPostAI 评分 52
同时在说的其他事
- 热度指数 755OpenAI 完成 110 亿美元融资，较最初计划缩减，估值 1.25 万亿美元12 个来源
- 热度指数 711Anthropic IPO 估值预期降至 1.1 万亿美元14 个来源
- 热度指数 509Muse 上线 Spaces 功能与新模型，商业条款仍暂停11 个来源
- 热度指数 483Inkling 2 Small 发布，传公司以 400 亿美元估值融资12 个来源
- 热度指数 366Gemini Omni 1.2 Flash 现已全面上线，15 秒原生音视频降至每秒 0.07 美元10 个来源
热度怎么算的？了解口径收起
热度按 48 小时内有多少个独立来源在说这件事算：同一个来源发多条只算一次，并按 24 小时半衰期衰减，所以排前面的是很多人在说的事。
本页汇总公开订阅源，标题与摘要由模型整理，版权归原作者所有；重要信息请回原文核对。如权利人认为相关标题或摘要侵权，请通过页尾联系邮箱提供具体页面与权利依据，我们核实后会及时删除或替换。
- 爆
- 讨论快速增加
- 新
- 首报 6 小时内
- 发酵中
- 讨论仍在增加