数学界给 OpenAI 那批 AI 证明验货:只有 10 篇附了思维链,Lean 代码也被挑出错位
只有 42% 的证明做了形式化;剑桥团队还在 Navier–Stokes 那篇里找到两处证明与 Lean 代码对不上。
展开
上一期写过 OpenAI 把一批未发布模型写的数学稿件直接公开,这两天轮到数学界验货。OpenAI 发布前咨询过 AGMAI,一个由普林斯顿高等研究院牵头、九位研究者组成的顾问组,它 9 月底定的准则要求实验室及时公开、交代模型是怎么推出来的,并资助人类数学家去消化这些结果。TechCrunch 逐条对照:OpenAI 做到了快,但 719 篇稿件里只有 10 篇附了思维链,也没有把自然语言证明和 Lean 代码对应起来的机器可读元数据。
更要紧的是 Lean 本身也不是护身符。剑桥和伦敦国王学院的数学家在 OpenAI 对一道 Navier–Stokes 衍生问题的解答里,找到至少两处自然语言证明和 Lean 代码不一致的地方。这不等于证明错了,但说明“模型自己把证明翻成 Lean”这一步会引入错译,他们的结论是:自动形式化的证明不该未经同行评审就直接采信。
另一头,Scott Aaronson 在博客里说这批结果包含 Unique Games Conjecture 的证明,并附有 Lean 证书,同时承认目前几乎没人真正读懂这些证明。陶哲轩的评价是,问题正被“对这个领域本身毫无兴趣的 AI 提示者”自主解决。对做 RL 的人来说,这件事的看点在于:拿 Lean 当可验证奖励时,“可验证”这三个字到底有多牢,现在要靠数学界花几个月去回答。