開發者指出 Agent 上生產翻車的架構層根因

2026 年 11 月 8 日，一位開發者在 DEV Community 的 AI 欄目發文《AI Agent 為何違規：五類失敗模式與縱深防禦護欄》，原載於 tamiz.pro 。作者在記錄一年生產環境 Agent 運維中發生的每一次規則違規後，把失敗歸為五類，其中包括硬約束違反、長上下文遺忘和工具簽名幻覺。文章提出的核心判斷是：Agent 違規並不是因為它「叛逆」，而是因為它本質上是包裹在確定性系統周圍的生成式文本生成器，合規往往失效在這兩類系統的交界處；因此 Agent 的問題大多發生在架構層，而非意圖層。作者據此給出了一套縱深防禦的工程實踐，用於讓 Agent 停留在可操作邊界之內。

2026 年 11 月 9 日，同一開發者又在 DEV Community 的 AI 欄目發文《AI Agent 演示能跑，為什麼上生產就翻車》，繼續推進這一觀察。他指出，做一個能在演示裡跑通的 Agent 已經不算難：把 LLM 連上幾個工具、給一個任務、再加一點記憶，很快就能得到一個看起來不錯的成果。但把同一個 Agent 放進真實環境後，問題開始出現：有時會調錯工具，有時會重複同一個動作，有時卡在一個本該簡單的問題上。他的結論仍然指向架構：問題往往不在模型本身，而在於模型周圍的架構設計，尤其是不該讓 LLM 同時控制決策、執行、錯誤處理和結果校驗的每一個環節。