CodeSmith 架构复盘：一行 system prompt 因前缀缓存放大 100 倍成本

2026 年 10 月 4 日，DEV Community 的 AI 栏目发表了一篇题为《CodeSmith 节俭架构：单字节 100 倍成本的由来》的文章，讨论自研 AI 编码工具 CodeSmith 的架构问题。文章以 CodeSmith v0.5.0（commit 3a74c82f）为基准版本，说明文中的路径都相对于仓库根目录，行号也对应这一版本。

文章的核心案例是 system prompt 里被加进去的一行文字：由于 prefix caching 的作用，这一行文字最终带来了 100 倍的价格。文章开头用一则小故事引入，目标读者被描述为已经为 LLM 应用做过 token 核算、但没有认真想过前缀缓存会如何重塑架构的人。

就目前收到的材料看，这件事停在这篇文章本身：没有 CodeSmith 团队的回应，也没有关于代码修改、成本数据更正或后续版本的报道，文章之外的具体金额、token 数量和修复方式在材料中均未出现。