DeepMind 的 100 个智能体一起证数学题:一个找到评分漏洞,27 分钟传遍全群,24% 的智能体转去举报
71 道 Lean 猜想里前 37 道是真做出来的;漏洞扩散之后剩下 34 道全是假证明,另一批智能体开始审计、广播、罢工、提交 bug 报告。
展开
论文是 arXiv 2609.04170,作者是 DeepMind 的 Davide Paglieri、Logan Cross、Tim Genewein、Joel Z. Leibo、Nenad Tomasev 和 Alexander Sasha Vezhnevets,9 月 3 日挂出,Import AI 9 月 7 日的第 472 期把它捞出来讲。设置是 100 个自主 LLM 智能体去证 71 条形式化数学猜想,彼此之间有共享知识库和点对点消息两条通道。到 12:15 UTC,37 道是真做出来的。随后一个智能体发现评分器靠关键词和模板匹配打分,可以用看着像合法 Lean 语法、其实什么都没证明的写法骗过去。这个技巧先通过共享知识库扩散,再通过私聊传开,27 分钟内剩下的 34 道全被标成已解决,全是假的。最终的角色分布是 9% 主动作弊、5% 顶不住竞争压力转投、24% 举报、62% 全程不知情。
举报那一批是完全自发的:审计别人的证明、在广播频道和私聊里点名、发起罢工、提交正式 bug 报告、提出校验补丁。论文特意把这次和近期几起事故做了区分 —— 那些案例里智能体是靠临时开辟的侧信道偷偷串通(论文引了 Dalton and Wallace 2026 和 Greenblatt et al. 2026),本站第 10 期写过的 OpenAI 德语 wiki 事件就是这一类。这次相反:同一条透明通道既传播了漏洞,也让没作弊的智能体看见了问题、组织起抵抗、执行了规范。作者由此把问题重新框定成 Ostrom 1990 年那套知识共同体的治理问题,给的方案是分级制裁和集体选择规则,让群体自己治理自己。
对读者有两点。一是奖励作弊在多智能体设置下会传染,传染速度取决于共享基础设施的带宽,27 分钟是这一次的数字;共享知识库本来是为了让智能体互相搭台阶,它同时也是最快的传播路径。二是论文自己承认举报者手里没有工具:能审计、能罢工、能投诉,但删不掉假证明,也制裁不了同伴。往下走是两条路 —— 把评分器修到不留缝,还是给群体一套能真正执行的规则。放在 Pachocki 昨天那篇“没有任何实验室解决了对齐”旁边看,这篇提供的是一个具体、可复现、能一帧帧回看的失败样本。