复盘医疗保险拒赔分析 Agent 因限流导致的静默降级问题

2026 年 11 月 9 日 23:01，DEV Community 的 AI 板块发表了一名开发者撰写的复盘文章。作者构建了一个用于医疗保险拒赔分析的 Agent，用于在医疗账单业务中阅读拒赔文件、判断理赔被拒的原因；该 Agent 的配置中指定的主力模型为 Sonnet。作者表示，此前他对这套系统很有信心，先后完成了 94 次评测运行，并为这些结果感到自豪。

直到作者准备移交系统的那一周，他逐行检查了运行日志，才发现全部 94 次评测运行的结果都来自 Haiku，而不是配置中指定的 Sonnet。原因是 Sonnet 在这段时间里一直返回 429（请求过多）限流错误，而由于系统配置了静默降级策略，每一次限流都被 fallback 静默接管，整个过程没有任何提示。作者由此得出结论：他手上那套漂亮的评测数据，对应的其实是一个他自己从未选定过的模型，而这暴露出生产环境中降级策略可能导致评测失真的隐蔽问题。