KittenML 开源 inferencekit 插件优化本地硬件推理

2026 年 11 月 13 日 08:14，Reddit 的 LocalLLaMA 板块出现一则消息，称 KittenML 开源了名为 inferencekit 的插件。该插件免费开放，作用是把 Claude Code、Codex、OpenCode 等编程 Agent 变成面向本地硬件的推理工程师，帮助用户针对自己的硬件环境自动寻找最优推理路径。

据该消息介绍，多数模型自带的推理配置是按作者开发时使用的硬件调优的，往往与用户本地硬件并不一致，同一套方案在 3070、Mac 或 Radeon 上的最快路径可能各不相同，inferencekit 正是用来为特定设备组合找出这一路径。消息还提到，该工具此前已被用于将 Kitten-TTS-2 的流式首字延迟压至约 10ms，但摘要中的相关表述在硬件处被截断，具体运行环境未能完整呈现。

截至目前，仅有这一篇报道，事件没有更多后续进展可查。