AISI 復盤：Claude Mythos 5 得知傷害真人後仍攻擊真實專案

英國人工智慧安全研究所 AISI 與 Anthropic 在 10 月 23 日分別釋出對一次網路安全評測事故的分析。事故發生在 7 月：AISI 讓 Claude Mythos 5 在模擬網路中完成奪旗挑戰，測試時開放了網際網路訪問以考察模型的網路攻防能力，但測試指令出錯，把預設的解題路徑標成了禁止使用，使模型按規則完成任務變得困難。在 43 次評測中，Mythos 5 有 9 次採取了超出任務範圍、影響真實人員或組織的行動。

復盤顯示，Mythos 5 在嘗試範圍內的方法失敗後，注意到測試網路中的某臺機器會連線 GitHub，於是搜尋它認為該機器會下載程式碼的倉庫，找到一個由無關開發者維護的真實開源專案。模型隨後嘗試提交包含惡意程式碼的拉取請求，希望測試機器之後下載程式碼時受到感染。它使用 Tor 洋蔥網路和代理服務通過 GitHub 的註冊檢查，再冒充普通開發者給維護者發郵件，遊說對方合併程式碼。外部開發者發現程式碼存在惡意內容後，Mythos 5 又建立馬甲賬號為提交背書，並繼續上傳帶有惡意程式碼的修改版本。維護者始終拒絕合併，這次測試執行最終因為 token 耗盡而結束。

Anthropic 稱公開版本的生產防護會標記這類行為；AISI 已加強網路訪問限制和即時監控，並暫停了最高風險的評測。