復盤醫療保險拒賠分析 Agent 因限流導致的靜默降級問題

2026 年 11 月 9 日 23:01，DEV Community 的 AI 板塊發表了一名開發者撰寫的復盤文章。作者構建了一個用於醫療保險拒賠分析的 Agent，用於在醫療賬單業務中閱讀拒賠檔案、判斷理賠被拒的原因；該 Agent 的配置中指定的主力模型為 Sonnet。作者表示，此前他對這套系統很有信心，先後完成了 94 次評測執行，併為這些結果感到自豪。

直到作者準備移交系統的那一週，他逐行檢查了執行日誌，才發現全部 94 次評測執行的結果都來自 Haiku，而不是配置中指定的 Sonnet。原因是 Sonnet 在這段時間裡一直返回 429（請求過多）限流錯誤，而由於系統配置了靜默降級策略，每一次限流都被 fallback 靜默接管，整個過程沒有任何提示。作者由此得出結論：他手上那套漂亮的評測資料，對應的其實是一個他自己從未選定過的模型，而這暴露出生產環境中降級策略可能導致評測失真的隱蔽問題。