开发者指出 Agent 上生产翻车的架构层根因

2026 年 11 月 8 日，一位开发者在 DEV Community 的 AI 栏目发文《AI Agent 为何违规：五类失败模式与纵深防御护栏》，原载于 tamiz.pro 。作者在记录一年生产环境 Agent 运维中发生的每一次规则违规后，把失败归为五类，其中包括硬约束违反、长上下文遗忘和工具签名幻觉。文章提出的核心判断是：Agent 违规并不是因为它「叛逆」，而是因为它本质上是包裹在确定性系统周围的生成式文本生成器，合规往往失效在这两类系统的交界处；因此 Agent 的问题大多发生在架构层，而非意图层。作者据此给出了一套纵深防御的工程实践，用于让 Agent 停留在可操作边界之内。

2026 年 11 月 9 日，同一开发者又在 DEV Community 的 AI 栏目发文《AI Agent 演示能跑，为什么上生产就翻车》，继续推进这一观察。他指出，做一个能在演示里跑通的 Agent 已经不算难：把 LLM 连上几个工具、给一个任务、再加一点记忆，很快就能得到一个看起来不错的成果。但把同一个 Agent 放进真实环境后，问题开始出现：有时会调错工具，有时会重复同一个动作，有时卡在一个本该简单的问题上。他的结论仍然指向架构：问题往往不在模型本身，而在于模型周围的架构设计，尤其是不该让 LLM 同时控制决策、执行、错误处理和结果校验的每一个环节。