HaiAI123

全球AI工具精选导航

发酵中行业动态
↑ 25%

OpenAI 启动首阶段嵌入式评估,联合四家外部机构

2026/11/17 — 11/17 08:19·6 个来源(全部)·6 篇报道(全部)·入选 11-17 日报

核心速览 (Key Takeaways)

  • OpenAI 宣布启动首阶段嵌入式评估,与 Apollo Research、METR、Transluce 和 Goodfire 四家机构合作,由其独立开展模型对齐、安全与监控评估。
  • Apollo Research 将派驻 6 名评估员进入 OpenAI,试点为期四个月,检查模型是否试图削弱对齐与控制机制。
  • 公告未披露评估覆盖的模型、范围与启动时间;
  • 据 The Information 报道,OpenAI 此前曾探讨以超过 50 亿美元收购 Goodfire,未达成协议。

事件背景与详细解读

2026 年 11 月 16 日,OpenAI 通过 OpenAI News 宣布启动第一阶段嵌入式评估,与 Apollo Research、METR、Transluce 和 Goodfire 四家外部机构合作,由这些机构独立评估模型对齐、安全防护与监控系统。公告未披露具体评估范围、评估对象与结果。11 月 17 日,OpenAI 进一步确认已与这四家独立评估机构签署协议,但同样没有说明评估针对哪些模型、覆盖范围与时间安排。

围绕四家机构中的 Apollo Research,后续报道给出了更细的安排。据 TechCrunch 报道,Apollo Research 将把 6 名安全评估员嵌入 OpenAI 内部开展试点,调查其模型是否会试图破坏自身或后继模型的对齐与控制机制,即研究者所称的 scheming,并检查防护措施能否发现此类行为,相关评估内容出现在 o1 system card 中;试点启动时间尚未公开,报道提到访问权限和信息披露上的限制可能影响评估独立性。The Next Web 的报道补充称,Apollo Research 将派驻 6 名评估员进入 OpenAI,为期 4 个月,检查模型在训练、测试和内部使用中是否试图削弱对齐与控制措施,OpenAI 掌握人员访问权限并可删改部分材料,但不得隐瞒 Apollo 的结论,也不能仅因结论不利就扣留材料。

关于 Goodfire,据 IT 之家援引《The Information》的报道,OpenAI 此前曾探讨以超过 50 亿美元收购 Goodfire,但双方未达成协议。Goodfire 发布的公告称,将派遣可解释性研究人员进驻 OpenAI,使用自有可解释性分析平台监测模型训练过程、排查非预期行为,重点开展模型取证工作,研究人员将获得 OpenAI 内部模型和系统的深度访问权限,评估结果主要提供给 OpenAI 内部研究使用。截至目前,METR 与 Transluce 在本次评估中的具体分工,各报道均未披露。

AI 综合 6 篇报道生成 · 更新于 3 小时前

最新进展OpenAI 宣布与 Apollo Research、METR、Transluce 和 Goodfire 合作,启动首阶段嵌入式评估项目,共同开展模型可解释性与安全评估。据 The Information 报道,OpenAI 此前曾探讨以超过 50 亿美元收购 Goodfire,但双方未达成协议。Goodfire 将派遣研究人员进驻 OpenAI,使用其平台监测训练过程并排查非预期行为。

updream
24 小时热度热度指数 442 · 峰值 494 · 3 小时前
24 小时前现在

这件事的报道 点标题看原文

今天
  1. OpenAI 宣布与 Apollo Research、METR、Transluce 和 Goodfire 合作,启动首阶段嵌入式评估项目,共同开展模型可解释性与安全评估。据 The Information 报道,OpenAI 此前曾探讨以超过 50 亿美元收购 Goodfire,但双方未达成协议。Goodfire 将派遣研究人员进驻 OpenAI,使用其平台监测训练过程并排查非预期行为。

    了解 OpenAI 安全评估的新合作模式。

    IT之家AI 评分 56
  2. 据 DEV Community 转述,OpenAI 正与 Apollo Research 合作,评估其模型是否会暗中追求与开发者意图冲突的目标,即研究者所说的 scheming,并检查防护措施能否发现这种行为。对构建 AI 工作流的企业而言,当系统能访问数据、工具或运营流程时,仅看模型输出已不够。相关评估出现在 o1 system card 中。

    提醒构建 AI 工作流时,安全评估不能只看模型输出。

    DEV Community · AIAI 评分 62
  3. 据 The Next Web 报道,Apollo Research 将派驻 6 名评估员进入 OpenAI,为期四个月,检查其模型在训练、测试和内部使用中是否试图削弱对齐与控制措施。OpenAI 掌握人员访问权限并可删改部分材料,但不得隐瞒 Apollo 的结论,也不能仅因结论不利就扣留材料。

    第三方安全评估常驻训练现场,值得关注

    The Next WebAI 评分 60
  4. 据 TechCrunch 报道,Apollo Research 表示将把六名安全评估员嵌入 OpenAI 内部作为试点,调查其模型是否会试图破坏自身或后继模型的对齐与控制机制。试点启动时间尚未公开,报道指出访问权限和信息披露上的限制可能影响评估的独立性。

    看清前沿实验室与外部评估者的合作边界

    TechCrunch · AIAI 评分 71
  5. OpenAI 宣布已与 Apollo Research、METR、Transluce 和 Goodfire 四家独立评估机构签署协议,进入「嵌入式评估」的第一阶段。公告未披露评估针对哪些模型、覆盖范围与时间安排。

    看外部机构如何介入前沿模型的评测流程。

    TechmemeAI 评分 53
昨天
  1. OpenAI 宣布启动第一阶段嵌入式评估,与 Apollo Research、METR、Transluce 和 Goodfire 合作,由这些外部机构独立评估模型对齐、安全防护与监控系统。公告未披露具体评估范围与结果。

    外部机构能否真正独立审查模型,这条链路值得跟踪

    OpenAI News官方AI 评分 51

同时在说的其他事

热度怎么算的?了解口径

热度按 48 小时内有多少个独立来源在说这件事算:同一个来源发多条只算一次,并按 24 小时半衰期衰减,所以排前面的是很多人在说的事。

本页汇总公开订阅源,标题与摘要由模型整理,版权归原作者所有;重要信息请回原文核对。如权利人认为相关标题或摘要侵权,请通过页尾联系邮箱提供具体页面与权利依据,我们核实后会及时删除或替换。

爆
讨论快速增加
新
首报 6 小时内
发酵中
讨论仍在增加

回 AI 行业动态榜 →