開發者使用小模型作裁判給 AI Agent 流程把關

2026 年 11 月 2 日，開發者 Omer Bin Saleem 在 DEV Community 發文，並在其個人站點 omerbinsaleem.com 同步釋出，介紹在 AI Agent 外圍增加一層小型裁判模型的寫法。思路是讓小模型承擔日常判斷：由它回答每天大量是/否問題，只有在超過置信閾值時才讓它自動執行，以此作為流程把關。

Omer Bin Saleem 稱，該裁判在 20 天內處理 116,097 次判斷，中位延遲 245 毫秒；超過置信門限時由它單獨執行。它給出的應用例子是模型路由：裁判按每條訊息選擇模型，同一報告耗時從 137 秒降到 45 秒；另一個用途是 merge request 審查，未觸及該 MR 所改程式碼的發現得分落在 0.19 到 0.40，真實發現為 0.94。目前介紹停留在這一寫法與其披露資料，未寫明具體模型、閾值和生產部署範圍。