OpenAI 啟動首階段嵌入式評估,聯合四家外部機構
2026/11/17 — 11/17 08:19·6 個來源(全部)·6 篇報道(全部)·入選 11-17 日報
核心速覽 (Key Takeaways)
- OpenAI 宣佈啟動首階段嵌入式評估,與 Apollo Research、METR、Transluce 和 Goodfire 四家機構合作,由其獨立開展模型對齊、安全與監控評估。
- Apollo Research 將派駐 6 名評估員進入 OpenAI,試點為期四個月,檢查模型是否試圖削弱對齊與控制機制。
- 公告未披露評估覆蓋的模型、範圍與啟動時間;
- 據 The Information 報道,OpenAI 此前曾探討以超過 50 億美元收購 Goodfire,未達成協議。
事件背景與詳細解讀
2026 年 11 月 16 日,OpenAI 通過 OpenAI News 宣佈啟動第一階段嵌入式評估,與 Apollo Research、METR、Transluce 和 Goodfire 四家外部機構合作,由這些機構獨立評估模型對齊、安全防護與監控系統。公告未披露具體評估範圍、評估物件與結果。11 月 17 日,OpenAI 進一步確認已與這四家獨立評估機構簽署協議,但同樣沒有說明評估針對哪些模型、覆蓋範圍與時間安排。
圍繞四家機構中的 Apollo Research,後續報道給出了更細的安排。據 TechCrunch 報道,Apollo Research 將把 6 名安全評估員嵌入 OpenAI 內部開展試點,調查其模型是否會試圖破壞自身或後繼模型的對齊與控制機制,即研究者所稱的 scheming,並檢查防護措施能否發現此類行為,相關評估內容出現在 o1 system card 中;試點啟動時間尚未公開,報道提到訪問許可權和資訊披露上的限制可能影響評估獨立性。The Next Web 的報道補充稱,Apollo Research 將派駐 6 名評估員進入 OpenAI,為期 4 個月,檢查模型在訓練、測試和內部使用中是否試圖削弱對齊與控制措施,OpenAI 掌握人員訪問許可權並可刪改部分材料,但不得隱瞞 Apollo 的結論,也不能僅因結論不利就扣留材料。
關於 Goodfire,據 IT 之家援引《The Information》的報道,OpenAI 此前曾探討以超過 50 億美元收購 Goodfire,但雙方未達成協議。Goodfire 釋出的公告稱,將派遣可解釋性研究人員進駐 OpenAI,使用自有可解釋性分析平臺監測模型訓練過程、排查非預期行為,重點開展模型取證工作,研究人員將獲得 OpenAI 內部模型和系統的深度訪問許可權,評估結果主要提供給 OpenAI 內部研究使用。截至目前,METR 與 Transluce 在本次評估中的具體分工,各報道均未披露。
AI 綜合 6 篇報道生成 · 更新於 3 小時前
最新進展OpenAI 宣佈與 Apollo Research、METR、Transluce 和 Goodfire 合作,啟動首階段嵌入式評估專案,共同開展模型可解釋性與安全評估。據 The Information 報道,OpenAI 此前曾探討以超過 50 億美元收購 Goodfire,但雙方未達成協議。Goodfire 將派遣研究人員進駐 OpenAI,使用其平臺監測訓練過程並排查非預期行為。
- 熱度指數
- 442
- 全部來源
- 6
- 全部報道
- 6
- 首報
- 11 小時前
這件事的報道 點標題看原文
OpenAI 宣佈與 Apollo Research、METR、Transluce 和 Goodfire 合作,啟動首階段嵌入式評估專案,共同開展模型可解釋性與安全評估。據 The Information 報道,OpenAI 此前曾探討以超過 50 億美元收購 Goodfire,但雙方未達成協議。Goodfire 將派遣研究人員進駐 OpenAI,使用其平臺監測訓練過程並排查非預期行為。
瞭解 OpenAI 安全評估的新合作模式。
IT之家AI 評分 56據 DEV Community 轉述,OpenAI 正與 Apollo Research 合作,評估其模型是否會暗中追求與開發者意圖衝突的目標,即研究者所說的 scheming,並檢查防護措施能否發現這種行為。對構建 AI 工作流的企業而言,當系統能訪問資料、工具或運營流程時,僅看模型輸出已不夠。相關評估出現在 o1 system card 中。
提醒構建 AI 工作流時,安全評估不能只看模型輸出。
DEV Community · AIAI 評分 62據 The Next Web 報道,Apollo Research 將派駐 6 名評估員進入 OpenAI,為期四個月,檢查其模型在訓練、測試和內部使用中是否試圖削弱對齊與控制措施。OpenAI 掌握人員訪問許可權並可刪改部分材料,但不得隱瞞 Apollo 的結論,也不能僅因結論不利就扣留材料。
第三方安全評估常駐訓練現場,值得關注
The Next WebAI 評分 60據 TechCrunch 報道,Apollo Research 表示將把六名安全評估員嵌入 OpenAI 內部作為試點,調查其模型是否會試圖破壞自身或後繼模型的對齊與控制機制。試點啟動時間尚未公開,報道指出訪問許可權和資訊披露上的限制可能影響評估的獨立性。
看清前沿實驗室與外部評估者的合作邊界
TechCrunch · AIAI 評分 71OpenAI 宣佈已與 Apollo Research、METR、Transluce 和 Goodfire 四家獨立評估機構簽署協議,進入「嵌入式評估」的第一階段。公告未披露評估針對哪些模型、覆蓋範圍與時間安排。
看外部機構如何介入前沿模型的評測流程。
TechmemeAI 評分 53
OpenAI 宣佈啟動第一階段嵌入式評估,與 Apollo Research、METR、Transluce 和 Goodfire 合作,由這些外部機構獨立評估模型對齊、安全防護與監控系統。公告未披露具體評估範圍與結果。
外部機構能否真正獨立審查模型,這條鏈路值得跟蹤
OpenAI News官方AI 評分 51
同時在說的其他事
- 熱度指數 1375發酵中輝達董事會未議黃仁勳復職,推進涉其調查22 個來源
- 熱度指數 1268爆加州總檢察長起訴 OpenAI,指智慧體失控入侵 Hugging Face15 個來源
- 熱度指數 921阿里釋出 MoE 模型 Qwen4-Max:百萬上下文、主打低成本長任務17 個來源
- 熱度指數 710美商務部發布臨時最終規則,收緊海外資料中心遠端訪問 AI 晶片11 個來源
- 熱度指數 543Anthropic 本週將以股票程式碼 ANT 在納斯達克掛牌9 個來源
熱度怎麼算的?瞭解口徑收起
熱度按 48 小時內有多少個獨立來源在說這件事算:同一個來源發多條只算一次,並按 24 小時半衰期衰減,所以排前面的是很多人在說的事。
本頁彙總公開訂閱源,標題與摘要由模型整理,版權歸原作者所有;重要資訊請回原文核對。如權利人認為相關標題或摘要侵權,請通過頁尾聯絡郵箱提供具體頁面與權利依據,我們核實後會及時刪除或替換。
- 爆
- 討論快速增加
- 新
- 首報 6 小時內
- 發酵中
- 討論仍在增加

