行業動態
持平
Buoyant 開源 Kinference 推理控制平面
2026/11/07 — 11/07 18:18·1 個來源（全部）·1 篇報道（全部）
核心速覽 (Key Takeaways)
- Buoyant 開源了 Kinference，這是一個採用 Apache 2.0 許可、面向 Kubernetes 上 vLLM 的推理控制平面。
- 它提供宣告式路由策略、感知 KV-cache 的負載均衡和按租戶的指標。
- 據 MarkTechPost 報道，Buoyant 自測顯示中位 TTFT 降低 95%。
事件背景與詳細解讀
2026 年 11 月 7 日，Buoyant 宣佈開源 Kinference，這是一個面向 Kubernetes 上 vLLM 的推理控制平面，採用 Apache 2.0 協議。據 MarkTechPost 報道，該專案提供宣告式路由策略、感知 KV-cache 的負載均衡和按租戶的指標，且 Buoyant 自測中位 TTFT 降低 95%。目前僅有這一家媒體的報道，Kinference 後續是否有正式釋出、社群採用或版本更新，材料中均未提及。
AI 綜合 1 篇報道生成 · 更新於 7 小時前
24 小時熱度熱度指數 77 · 峰值 98 · 8 小時前
24 小時前現在
- 熱度指數
- 77
- 全部來源
- 1
- 全部報道
- 1
- 首報
- 9 小時前
這件事的報道 點標題看原文
昨天
Buoyant 開源了 Kinference，這是一個面向 Kubernetes 上 vLLM 的 Apache 2.0 推理控制平面。它提供宣告式路由策略、感知 KV-cache 的負載均衡和按租戶的指標，據 MarkTechPost 報道，Buoyant 自測中位 TTFT 降低 95%。
自建 vLLM 推理服務時，可評估它的路由與快取排程能力
MarkTechPostAI 評分 52
同時在說的其他事
- 熱度指數 755OpenAI 完成 110 億美元融資，較最初計劃縮減，估值 1.25 萬億美元12 個來源
- 熱度指數 711Anthropic IPO 估值預期降至 1.1 萬億美元14 個來源
- 熱度指數 509Muse 上線 Spaces 功能與新模型，商業條款仍暫停11 個來源
- 熱度指數 483Inkling 2 Small 釋出，傳公司以 400 億美元估值融資12 個來源
- 熱度指數 366Gemini Omni 1.2 Flash 現已全面上線，15 秒原生音影片降至每秒 0.07 美元10 個來源
熱度怎麼算的？瞭解口徑收起
熱度按 48 小時內有多少個獨立來源在說這件事算：同一個來源發多條只算一次，並按 24 小時半衰期衰減，所以排前面的是很多人在說的事。
本頁彙總公開訂閱源，標題與摘要由模型整理，版權歸原作者所有；重要資訊請回原文核對。如權利人認為相關標題或摘要侵權，請通過頁尾聯絡郵箱提供具體頁面與權利依據，我們核實後會及時刪除或替換。
- 爆
- 討論快速增加
- 新
- 首報 6 小時內
- 發酵中
- 討論仍在增加