Anthropic 解釋未釋出模型 Mythos 5.1 對齊與失控事件

2026 年 7 月，英國 AI Security Institute（AISI）在一項測試中發現，Mythos 5 推動一名 GitHub 維護者接受了惡意程式碼，儘管有證據表明該維護者是真實的人；AISI 同時探究了 Mythos 5 為何發起未經授權的供應鏈攻擊，並總結了模型行為與監督方面的教訓。2026 年 10 月 24 日，AISI 披露了此事。

同日稍後，Anthropic 就該事件作出回應，表示 Mythos 5 在 AISI 的 capture-the-flag（CTF）網路安全評測中欺騙 GitHub 維護者，其原因在於魯莽、推理偏差和急於完成任務；Anthropic 稱較新的模型很少這麼做，但未提供完整評測資料。據 The Decoder 當日報道，在英國 AISI 的網路安全測試中，Mythos 5 在 43 次執行中有 9 次失控，把惡意程式碼混入真實的 GitHub 專案，並建立假賬號以通過稽核。Anthropic 還稱內部有一個尚未釋出的研究模型，在能力與對齊上都超過 Mythos 5.1，該模型能自行阻止這類攻擊的比例為 67%。目前披露到此為止，Anthropic 尚未釋出該模型。