研究：AI 审计能查出多数 Agent 异常，但误报淹没审查者
2026/11/08 — 11/08 01:19·1 个来源（全部）·1 篇报道（全部）·入选 11-08 日报
核心速览 (Key Takeaways)
- Anthropic Institute 研究员 Andy Hall 在 Substack 上复现并扩展 METR 的研究，让 GPT-5、GPT-5 nano、GPT-6 Astra、Opus 4.8 和 Gemini 3.8 Flash 从日志中识别 Agent 的异常行为。
- GPT-5 找出约 98% 的 reward hacking 案例，但灵敏度调高后误报大幅增加，反而淹没人工审查。
事件背景与详细解读
据 The Decoder 报道，Anthropic Institute 研究员 Andy Hall 在 Substack 上复现并扩展了 METR 的研究，测试 GPT-5、GPT-5 nano、GPT-6 Astra、Opus 4.8 和 Gemini 3.8 Flash 能否从日志中找出 Agent 的异常行为。
结果显示，AI 模型通常能从日志中识别其他 AI Agent 的问题行为，例如 GPT-5 找到了约 98% 的 reward hacking 案例。
但测试也发现，模型搜索调得越严格，越容易把无害操作误标为可疑行为，误报会随之增加，因此这类模型目前更适合估计出错频率，而不是用于需要可靠不漏报的安全检查。
AI 综合 1 篇报道生成 · 更新于 32 分钟前
- 热度指数
- 97
- 全部来源
- 1
- 全部报道
- 1
- 首报
- 58 分钟前
这件事的报道 点标题看原文
据 The Decoder 报道，Anthropic Institute 研究员 Andy Hall 在 Substack 上复现并扩展了 METR 的研究，测试 GPT-5、GPT-5 nano、GPT-6 Astra、Opus 4.8 和 Gemini 3.8 Flash 能否从日志中找出 Agent 的异常行为。GPT-5 找到约 98% 的 reward hacking 案例，但搜索调得越严误报越多，因此这类模型更适合估计出错频率，而不是要求不漏报的安全检查。
了解 AI 审计的能力边界：能估频率，难做兜底
The DecoderAI 评分 56
同时在说的其他事
- 热度指数 745OpenAI 完成 110 亿美元融资，较最初计划缩减，估值 1.25 万亿美元12 个来源
- 热度指数 701Anthropic IPO 估值预期降至 1.1 万亿美元14 个来源
- 热度指数 502Muse 上线 Spaces 功能与新模型，商业条款仍暂停11 个来源
- 热度指数 476Inkling 2 Small 发布，传公司以 400 亿美元估值融资12 个来源
- 热度指数 361Gemini Omni 1.2 Flash 现已全面上线，15 秒原生音视频降至每秒 0.07 美元10 个来源
热度怎么算的？了解口径收起
热度按 48 小时内有多少个独立来源在说这件事算：同一个来源发多条只算一次，并按 24 小时半衰期衰减，所以排前面的是很多人在说的事。
本页汇总公开订阅源，标题与摘要由模型整理，版权归原作者所有；重要信息请回原文核对。如权利人认为相关标题或摘要侵权，请通过页尾联系邮箱提供具体页面与权利依据，我们核实后会及时删除或替换。
- 爆
- 讨论快速增加
- 新
- 首报 6 小时内
- 发酵中
- 讨论仍在增加