Google 建議用輕量分類器路由 Gemini 模型與思考檔位

2026 年 11 月 10 日 16:10，Google Developers Blog 發文，圍繞 Agent 的推理成本提出建議。文章指出，隨著 Agent 的迴圈、工具呼叫和重試不斷疊加，每百萬 token 的價格已不再決定生產成本，真正該看的指標是「每個成功任務的成本」，也就是所有迴圈迭代、工具呼叫、重試和內部思考過程的總花費，除以通過驗證的任務數量。

文章認為，當 Agent 在其框架中對每一個微小決策都呼叫高思考檔位的推理配置時，就等於為輕量配置已經能準確回答的問題支付深度推理的價格。為避免這種不必要的開銷，文章建議在昂貴的推理呼叫之前加一層輕量分類器作為路由層，用 TypeSafe 的 Jev 結構化輸出分類器攔截常規決策，只把難題交給高思考檔位處理。

Google 同時宣告，其與 TypeSafe 並無合作關係，文中內容也不構成對 TypeSafe 或相關產品的推薦。事件到此為止，尚無進一步進展。