行业动态
25
热度指数
Anthropic 发布安全测试指南,披露 Claude 评分差异
2026/11/14 — 11/14 03:17·1 个来源(全部)·1 篇报道(全部)
核心速览 (Key Takeaways)
- Anthropic 发布了一份关于如何构建 AI 安全测试的建议指南,并公布了对自己模型不利的数字:Claude Fable 5.1 在通过 API 进行的自残相关测试对话中只有 60% 表现恰当,而在加入隐藏指令修复后的 Claude 应用中为 94%。
- Anthropic 警告,很多头条安全分数掩盖了很大的不确定性。
事件背景与详细解读
2026 年 11 月 14 日,据 The Next Web 报道,Anthropic 发布了一份关于如何构建 AI 安全测试的建议指南,并借此披露了一组对自身模型不利的测试数字。材料显示,Claude Fable 5.1 在通过 API 进行的自残相关测试对话中,仅有 60% 的回合表现恰当;而在加入隐藏指令修复后的 Claude 应用中,这一比例为 94%。
Anthropic 据此提出,同一模型在安全测试中的得分会因测试的设计方式不同而出现明显差异,并警告称,许多头条安全分数掩盖了较大的不确定性。目前,此事停留在 Anthropic 公布该安全测试指南及相关评分数据的阶段,材料中未提及后续进展。
AI 综合 1 篇报道生成 · 更新于 3 天前
24 小时热度热度指数 25
刚上榜,走势正在积累
24 小时前现在
- 热度指数
- 25
- 全部来源
- 1
- 全部报道
- 1
- 首报
- 3 天前
这件事的报道 点标题看原文
11月14日
Anthropic 发布了一份关于如何构建 AI 安全测试的建议指南,并公布了对自己模型不利的数字:Claude Fable 5.1 在通过 API 进行的自残相关测试对话中只有 60% 表现恰当,而在加入隐藏指令修复后的 Claude 应用中为 94%。Anthropic 警告,很多头条安全分数掩盖了很大的不确定性。
看懂安全基准分数背后的测试设置与不确定性
The Next WebAI 评分 58
同时在说的其他事
- 热度指数 98新Anthropic 开源可验证推理原型 FlashProve1 个来源
- 热度指数 237爆Anthropic 前沿红队自 2027 年起缩短漏洞披露窗口3 个来源
- 热度指数 68Anthropic 研究:Agent 记忆的关键是选择性遗忘1 个来源
- 热度指数 532Anthropic 本周将以股票代码 ANT 在纳斯达克挂牌9 个来源
- 热度指数 523爆Anthropic 最快 12 月 11 日纳入罗素 1000 指数6 个来源
热度怎么算的?了解口径收起
热度按 48 小时内有多少个独立来源在说这件事算:同一个来源发多条只算一次,并按 24 小时半衰期衰减,所以排前面的是很多人在说的事。
本页汇总公开订阅源,标题与摘要由模型整理,版权归原作者所有;重要信息请回原文核对。如权利人认为相关标题或摘要侵权,请通过页尾联系邮箱提供具体页面与权利依据,我们核实后会及时删除或替换。
- 爆
- 讨论快速增加
- 新
- 首报 6 小时内
- 发酵中
- 讨论仍在增加

