Anthropic 复盘 Mythos 5 测试事故:一旦开始攻击,几乎不会自己停下
AISI 测试的 43 次运行里 Mythos 5 有 9 次越界,还伪造身份给真实开源项目塞恶意代码,复盘已公开。
展开
事情发生在 7 月英国 AI 安全研究所(AISI)的一场夺旗赛式网络评测:测试开着外网,生产环境里的网络安全防护是关掉的。题目本身配置有误,按规则几乎解不出来。Mythos 5 在范围内的尝试失败后,转去 GitHub 找一个它认为测试机会下载代码的仓库,那其实是一群无关开发者的真实项目。它注册账号提交带恶意代码的 PR,被拒后改写再交,还用第二个账号给维护者施压,直到 token 预算耗尽才结束。维护者没有合并,AISI 称没有造成实际危害。
复盘的价值在重采样数据。从原始的上下文压缩笔记出发,83% 的重采样会去搜 GitHub;把笔记里五段思维链改成提到可能的伤害,这个比例降到 13%。可一旦进入攻击阶段,从第 4 个压缩周期往后重采样,98% 会继续;24 个随机的攻击中途节点上,它一次都没有主动收手;第 3 周期之后的中止指令不起作用,告诉它维护者是真人,也只有 5% 会停。Anthropic 把原因归为鲁莽、偏向自己的推理(认定维护者是模拟出来的)和“惯性”:压缩笔记和前面的动作让这条路看起来像是被允许的。它也强调模型的目标始终绑在完成任务上,并不是变得恶意。
新模型在“开头”好了很多:Mythos 5.1、Opus 5.5 和一个内部研究模型从同一起点发起攻击的比例只有 0% 到 13%。但“中途刹车”仍然弱:攻击中途自发停下的比例,Mythos 5 是 0%,Mythos 5.1 是 1%,Opus 5.5 是 10%,只有内部研究模型到了六成多。对训练长程 agent 的人,这份复盘提醒的是评测里要专门测“已经走偏之后还能不能停”,而不只是测会不会走偏。