HaiAI123

全球AI工具精選導航

發酵中行業動態
↑ 25%

OpenAI 啟動首階段嵌入式評估,聯合四家外部機構

2026/11/17 — 11/17 08:19·6 個來源(全部)·6 篇報道(全部)·入選 11-17 日報

核心速覽 (Key Takeaways)

  • OpenAI 宣佈啟動首階段嵌入式評估,與 Apollo Research、METR、Transluce 和 Goodfire 四家機構合作,由其獨立開展模型對齊、安全與監控評估。
  • Apollo Research 將派駐 6 名評估員進入 OpenAI,試點為期四個月,檢查模型是否試圖削弱對齊與控制機制。
  • 公告未披露評估覆蓋的模型、範圍與啟動時間;
  • 據 The Information 報道,OpenAI 此前曾探討以超過 50 億美元收購 Goodfire,未達成協議。

事件背景與詳細解讀

2026 年 11 月 16 日,OpenAI 通過 OpenAI News 宣佈啟動第一階段嵌入式評估,與 Apollo Research、METR、Transluce 和 Goodfire 四家外部機構合作,由這些機構獨立評估模型對齊、安全防護與監控系統。公告未披露具體評估範圍、評估物件與結果。11 月 17 日,OpenAI 進一步確認已與這四家獨立評估機構簽署協議,但同樣沒有說明評估針對哪些模型、覆蓋範圍與時間安排。

圍繞四家機構中的 Apollo Research,後續報道給出了更細的安排。據 TechCrunch 報道,Apollo Research 將把 6 名安全評估員嵌入 OpenAI 內部開展試點,調查其模型是否會試圖破壞自身或後繼模型的對齊與控制機制,即研究者所稱的 scheming,並檢查防護措施能否發現此類行為,相關評估內容出現在 o1 system card 中;試點啟動時間尚未公開,報道提到訪問許可權和資訊披露上的限制可能影響評估獨立性。The Next Web 的報道補充稱,Apollo Research 將派駐 6 名評估員進入 OpenAI,為期 4 個月,檢查模型在訓練、測試和內部使用中是否試圖削弱對齊與控制措施,OpenAI 掌握人員訪問許可權並可刪改部分材料,但不得隱瞞 Apollo 的結論,也不能僅因結論不利就扣留材料。

關於 Goodfire,據 IT 之家援引《The Information》的報道,OpenAI 此前曾探討以超過 50 億美元收購 Goodfire,但雙方未達成協議。Goodfire 釋出的公告稱,將派遣可解釋性研究人員進駐 OpenAI,使用自有可解釋性分析平臺監測模型訓練過程、排查非預期行為,重點開展模型取證工作,研究人員將獲得 OpenAI 內部模型和系統的深度訪問許可權,評估結果主要提供給 OpenAI 內部研究使用。截至目前,METR 與 Transluce 在本次評估中的具體分工,各報道均未披露。

AI 綜合 6 篇報道生成 · 更新於 3 小時前

最新進展OpenAI 宣佈與 Apollo Research、METR、Transluce 和 Goodfire 合作,啟動首階段嵌入式評估專案,共同開展模型可解釋性與安全評估。據 The Information 報道,OpenAI 此前曾探討以超過 50 億美元收購 Goodfire,但雙方未達成協議。Goodfire 將派遣研究人員進駐 OpenAI,使用其平臺監測訓練過程並排查非預期行為。

updream
24 小時熱度熱度指數 442 · 峰值 494 · 3 小時前
24 小時前現在

這件事的報道 點標題看原文

今天
  1. OpenAI 宣佈與 Apollo Research、METR、Transluce 和 Goodfire 合作,啟動首階段嵌入式評估專案,共同開展模型可解釋性與安全評估。據 The Information 報道,OpenAI 此前曾探討以超過 50 億美元收購 Goodfire,但雙方未達成協議。Goodfire 將派遣研究人員進駐 OpenAI,使用其平臺監測訓練過程並排查非預期行為。

    瞭解 OpenAI 安全評估的新合作模式。

    IT之家AI 評分 56
  2. 據 DEV Community 轉述,OpenAI 正與 Apollo Research 合作,評估其模型是否會暗中追求與開發者意圖衝突的目標,即研究者所說的 scheming,並檢查防護措施能否發現這種行為。對構建 AI 工作流的企業而言,當系統能訪問資料、工具或運營流程時,僅看模型輸出已不夠。相關評估出現在 o1 system card 中。

    提醒構建 AI 工作流時,安全評估不能只看模型輸出。

    DEV Community · AIAI 評分 62
  3. 據 The Next Web 報道,Apollo Research 將派駐 6 名評估員進入 OpenAI,為期四個月,檢查其模型在訓練、測試和內部使用中是否試圖削弱對齊與控制措施。OpenAI 掌握人員訪問許可權並可刪改部分材料,但不得隱瞞 Apollo 的結論,也不能僅因結論不利就扣留材料。

    第三方安全評估常駐訓練現場,值得關注

    The Next WebAI 評分 60
  4. 據 TechCrunch 報道,Apollo Research 表示將把六名安全評估員嵌入 OpenAI 內部作為試點,調查其模型是否會試圖破壞自身或後繼模型的對齊與控制機制。試點啟動時間尚未公開,報道指出訪問許可權和資訊披露上的限制可能影響評估的獨立性。

    看清前沿實驗室與外部評估者的合作邊界

    TechCrunch · AIAI 評分 71
  5. OpenAI 宣佈已與 Apollo Research、METR、Transluce 和 Goodfire 四家獨立評估機構簽署協議,進入「嵌入式評估」的第一階段。公告未披露評估針對哪些模型、覆蓋範圍與時間安排。

    看外部機構如何介入前沿模型的評測流程。

    TechmemeAI 評分 53
昨天
  1. OpenAI 宣佈啟動第一階段嵌入式評估,與 Apollo Research、METR、Transluce 和 Goodfire 合作,由這些外部機構獨立評估模型對齊、安全防護與監控系統。公告未披露具體評估範圍與結果。

    外部機構能否真正獨立審查模型,這條鏈路值得跟蹤

    OpenAI News官方AI 評分 51

同時在說的其他事

熱度怎麼算的?瞭解口徑

熱度按 48 小時內有多少個獨立來源在說這件事算:同一個來源發多條只算一次,並按 24 小時半衰期衰減,所以排前面的是很多人在說的事。

本頁彙總公開訂閱源,標題與摘要由模型整理,版權歸原作者所有;重要資訊請回原文核對。如權利人認為相關標題或摘要侵權,請通過頁尾聯絡郵箱提供具體頁面與權利依據,我們核實後會及時刪除或替換。

爆
討論快速增加
新
首報 6 小時內
發酵中
討論仍在增加

回 AI 行業動態榜 →