开发者使用小模型作裁判给 AI Agent 流程把关

2026 年 11 月 2 日，开发者 Omer Bin Saleem 在 DEV Community 发文，并在其个人站点 omerbinsaleem.com 同步发布，介绍在 AI Agent 外围增加一层小型裁判模型的写法。思路是让小模型承担日常判断：由它回答每天大量是/否问题，只有在超过置信阈值时才让它自动执行，以此作为流程把关。

Omer Bin Saleem 称，该裁判在 20 天内处理 116,097 次判断，中位延迟 245 毫秒；超过置信门限时由它单独执行。它给出的应用例子是模型路由：裁判按每条消息选择模型，同一报告耗时从 137 秒降到 45 秒；另一个用途是 merge request 审查，未触及该 MR 所改代码的发现得分落在 0.19 到 0.40，真实发现为 0.94。目前介绍停留在这一写法与其披露数据，未写明具体模型、阈值和生产部署范围。