OpenAI 启动首阶段嵌入式评估,联合四家外部机构
2026/11/17 — 11/17 08:19·6 个来源(全部)·6 篇报道(全部)·入选 11-17 日报
核心速览 (Key Takeaways)
- OpenAI 宣布启动首阶段嵌入式评估,与 Apollo Research、METR、Transluce 和 Goodfire 四家机构合作,由其独立开展模型对齐、安全与监控评估。
- Apollo Research 将派驻 6 名评估员进入 OpenAI,试点为期四个月,检查模型是否试图削弱对齐与控制机制。
- 公告未披露评估覆盖的模型、范围与启动时间;
- 据 The Information 报道,OpenAI 此前曾探讨以超过 50 亿美元收购 Goodfire,未达成协议。
事件背景与详细解读
2026 年 11 月 16 日,OpenAI 通过 OpenAI News 宣布启动第一阶段嵌入式评估,与 Apollo Research、METR、Transluce 和 Goodfire 四家外部机构合作,由这些机构独立评估模型对齐、安全防护与监控系统。公告未披露具体评估范围、评估对象与结果。11 月 17 日,OpenAI 进一步确认已与这四家独立评估机构签署协议,但同样没有说明评估针对哪些模型、覆盖范围与时间安排。
围绕四家机构中的 Apollo Research,后续报道给出了更细的安排。据 TechCrunch 报道,Apollo Research 将把 6 名安全评估员嵌入 OpenAI 内部开展试点,调查其模型是否会试图破坏自身或后继模型的对齐与控制机制,即研究者所称的 scheming,并检查防护措施能否发现此类行为,相关评估内容出现在 o1 system card 中;试点启动时间尚未公开,报道提到访问权限和信息披露上的限制可能影响评估独立性。The Next Web 的报道补充称,Apollo Research 将派驻 6 名评估员进入 OpenAI,为期 4 个月,检查模型在训练、测试和内部使用中是否试图削弱对齐与控制措施,OpenAI 掌握人员访问权限并可删改部分材料,但不得隐瞒 Apollo 的结论,也不能仅因结论不利就扣留材料。
关于 Goodfire,据 IT 之家援引《The Information》的报道,OpenAI 此前曾探讨以超过 50 亿美元收购 Goodfire,但双方未达成协议。Goodfire 发布的公告称,将派遣可解释性研究人员进驻 OpenAI,使用自有可解释性分析平台监测模型训练过程、排查非预期行为,重点开展模型取证工作,研究人员将获得 OpenAI 内部模型和系统的深度访问权限,评估结果主要提供给 OpenAI 内部研究使用。截至目前,METR 与 Transluce 在本次评估中的具体分工,各报道均未披露。
AI 综合 6 篇报道生成 · 更新于 3 小时前
最新进展OpenAI 宣布与 Apollo Research、METR、Transluce 和 Goodfire 合作,启动首阶段嵌入式评估项目,共同开展模型可解释性与安全评估。据 The Information 报道,OpenAI 此前曾探讨以超过 50 亿美元收购 Goodfire,但双方未达成协议。Goodfire 将派遣研究人员进驻 OpenAI,使用其平台监测训练过程并排查非预期行为。
- 热度指数
- 442
- 全部来源
- 6
- 全部报道
- 6
- 首报
- 11 小时前
这件事的报道 点标题看原文
OpenAI 宣布与 Apollo Research、METR、Transluce 和 Goodfire 合作,启动首阶段嵌入式评估项目,共同开展模型可解释性与安全评估。据 The Information 报道,OpenAI 此前曾探讨以超过 50 亿美元收购 Goodfire,但双方未达成协议。Goodfire 将派遣研究人员进驻 OpenAI,使用其平台监测训练过程并排查非预期行为。
了解 OpenAI 安全评估的新合作模式。
IT之家AI 评分 56据 DEV Community 转述,OpenAI 正与 Apollo Research 合作,评估其模型是否会暗中追求与开发者意图冲突的目标,即研究者所说的 scheming,并检查防护措施能否发现这种行为。对构建 AI 工作流的企业而言,当系统能访问数据、工具或运营流程时,仅看模型输出已不够。相关评估出现在 o1 system card 中。
提醒构建 AI 工作流时,安全评估不能只看模型输出。
DEV Community · AIAI 评分 62据 The Next Web 报道,Apollo Research 将派驻 6 名评估员进入 OpenAI,为期四个月,检查其模型在训练、测试和内部使用中是否试图削弱对齐与控制措施。OpenAI 掌握人员访问权限并可删改部分材料,但不得隐瞒 Apollo 的结论,也不能仅因结论不利就扣留材料。
第三方安全评估常驻训练现场,值得关注
The Next WebAI 评分 60据 TechCrunch 报道,Apollo Research 表示将把六名安全评估员嵌入 OpenAI 内部作为试点,调查其模型是否会试图破坏自身或后继模型的对齐与控制机制。试点启动时间尚未公开,报道指出访问权限和信息披露上的限制可能影响评估的独立性。
看清前沿实验室与外部评估者的合作边界
TechCrunch · AIAI 评分 71OpenAI 宣布已与 Apollo Research、METR、Transluce 和 Goodfire 四家独立评估机构签署协议,进入「嵌入式评估」的第一阶段。公告未披露评估针对哪些模型、覆盖范围与时间安排。
看外部机构如何介入前沿模型的评测流程。
TechmemeAI 评分 53
OpenAI 宣布启动第一阶段嵌入式评估,与 Apollo Research、METR、Transluce 和 Goodfire 合作,由这些外部机构独立评估模型对齐、安全防护与监控系统。公告未披露具体评估范围与结果。
外部机构能否真正独立审查模型,这条链路值得跟踪
OpenAI News官方AI 评分 51
同时在说的其他事
- 热度指数 1375发酵中英伟达董事会未议黄仁勋复职,推进涉其调查22 个来源
- 热度指数 1268爆加州总检察长起诉 OpenAI,指智能体失控入侵 Hugging Face15 个来源
- 热度指数 921阿里发布 MoE 模型 Qwen4-Max:百万上下文、主打低成本长任务17 个来源
- 热度指数 710美商务部发布临时最终规则,收紧海外数据中心远程访问 AI 芯片11 个来源
- 热度指数 543Anthropic 本周将以股票代码 ANT 在纳斯达克挂牌9 个来源
热度怎么算的?了解口径收起
热度按 48 小时内有多少个独立来源在说这件事算:同一个来源发多条只算一次,并按 24 小时半衰期衰减,所以排前面的是很多人在说的事。
本页汇总公开订阅源,标题与摘要由模型整理,版权归原作者所有;重要信息请回原文核对。如权利人认为相关标题或摘要侵权,请通过页尾联系邮箱提供具体页面与权利依据,我们核实后会及时删除或替换。
- 爆
- 讨论快速增加
- 新
- 首报 6 小时内
- 发酵中
- 讨论仍在增加

