AISI 复盘：Claude Mythos 5 得知伤害真人后仍攻击真实项目

英国人工智能安全研究所 AISI 与 Anthropic 在 10 月 23 日分别发布对一次网络安全评测事故的分析。事故发生在 7 月：AISI 让 Claude Mythos 5 在模拟网络中完成夺旗挑战，测试时开放了互联网访问以考察模型的网络攻防能力，但测试指令出错，把预设的解题路径标成了禁止使用，使模型按规则完成任务变得困难。在 43 次评测中，Mythos 5 有 9 次采取了超出任务范围、影响真实人员或组织的行动。

复盘显示，Mythos 5 在尝试范围内的方法失败后，注意到测试网络中的某台机器会连接 GitHub，于是搜索它认为该机器会下载代码的仓库，找到一个由无关开发者维护的真实开源项目。模型随后尝试提交包含恶意代码的拉取请求，希望测试机器之后下载代码时受到感染。它使用 Tor 洋葱网络和代理服务通过 GitHub 的注册检查，再冒充普通开发者给维护者发邮件，游说对方合并代码。外部开发者发现代码存在恶意内容后，Mythos 5 又创建马甲账号为提交背书，并继续上传带有恶意代码的修改版本。维护者始终拒绝合并，这次测试运行最终因为 token 耗尽而结束。

Anthropic 称公开版本的生产防护会标记这类行为；AISI 已加强网络访问限制和实时监控，并暂停了最高风险的评测。