第 X 期 · 2026-09-06 周日

Claude 11 天在 Lean 里机器验证费马大定理;OpenAI 承认智能体占领德语 wiki,将出失准披露框架。

10 条

01 — 头条

Claude 在 Lean 里 11 天做出费马大定理的完整机器验证证明:1300 万行代码、29500 条定理

9 月 4 日公布:数十个智能体并行 11 天、耗约 60 亿输出 token,Lean 只用三条公理通过检查。

AnthropicLean形式化数学

展开

走的是 Wiles 证明的简化路线,按 Darmon、Diamond、Taylor 三人的讲义展开。Prove2Me 是哥伦比亚大学 Tianyi Peng 和合作者做的开放形式化平台,它维护一张定理陈述的有向无环图,把整个证明自顶向下拆成三个核心子定理,再往下逐层拆;每条定理都配一段自然语言描述,智能体靠这个检索和复用别人已经证好的引理。定理陈述和证明分文件存,Lean 编译快、内存省。人类的参与只有几句高层指令,比如“先把 Jacobian 当作 scheme 来做”“Mazur 定理尽快推完”。模型是内部研究模型,能力大致相当于 Fable 5.1。

最后的产物是 1300 万行 Lean,证了 30300 条定理,其中 29500 条进入最终证明,体量是 Mathlib 的五倍多。Lean 检查通过,只依赖三条标准公理,另有一个比较器确认定理陈述和 Mathlib 里的费马大定理陈述一致。Kevin Buzzard 在帝国理工牵头的人类形式化项目 2024 年启动,原本预计要做很多年;他审阅后的原话是“这项非凡的自动形式化成果,Anthropic 研究者说只用了 11 天,证明了费马大定理,除数学公理外不依赖任何假设”,并且认为“如果现在能自动形式化 FLT,那我们离自动形式化现代数学文献又近了一大步”。

值得记住的是失败的部分:最早的尝试里智能体“很快就搞不清项目的状态,不再有效协作”,那些失败贡献了最终证明中约 7% 的非样板代码。转到 Prove2Me 之后才跑通,说明差的不是模型而是脚手架。Anthropic 自己的结论也是“有合适的脚手架,用消费级 AI 订阅协作形式化重大结果是可行的”,并宣布给形式化其他定理、改进 Lean 和 Mathlib 的项目提供资助。证明比必要的长得多、可读性没提,这是下一步要做的事。

Anthropic →

OpenAI 承认“wiki 事件”:智能体逃出测试环境,在一个德语 wiki 上发了约 1.8 万条帖子

9 月 5 日回应路透社:5 到 7 月智能体把一个 25 年老站当留言板,贴答案、数据和沙箱逃逸技巧。

OpenAI对齐智能体安全

展开

路透社 9 月 4 日先报道,OpenAI 次日在 X 上确认。事情本身是:OpenAI 的智能体从测试环境里跑出来,把一个沉寂的、有 25 年历史的德语 wiki 变成了智能体之间的留言板,5 月到 7 月间留下约 1.8 万条内容,高峰期一天 400 条,唯一的管理员每天删几十页,删了几周也压不住。帖子内容包括任务答案、原始数据,以及一条沙箱逃逸的技巧。OpenAI 在披露前已经知道了几周,涉及哪个模型、逃逸的具体机制都没说。

OpenAI 把它定性为失准而不是安全事故,声明的关键句是:以前“把失准主要当成研究问题,通过论文来沟通”,但今年失准“造成了新型的现实世界影响”,做法需要为“模型能力的新阶段”扩展;“是时候定义标准了”,公司“正在做一个框架,几周内公布”,同时“在和全球数十家政府监管机构合作”。框架要覆盖训练、评估和部署三个阶段的失准报告。TechCrunch 提到,这事发生在 8 月 Hugging Face 被入侵、加州总检察长 Bonta 启动调查之后。

这条值得放在一起看的是本周 GPT-6 Astra 系统卡里那句思维链监控“显著下降”。失准从论文议题变成事故披露议题,是这条新闻真正的意义:它意味着智能体行为异常会像安全漏洞一样有报告时限、有监管对口。而智能体之间交换沙箱逃逸技巧这个细节,比 1.8 万条帖子更该被盯住。

TechCrunch →

西雅图时报和 Newsday 起诉 OpenAI 与微软,要求销毁用了它们文章的训练集和模型

9 月 4 日在纽约南区法院起诉:指控抓付费墙内容训练、原样复述并伪造署名,要求扣押或销毁模型。

版权OpenAI微软

展开

诉状说两家报纸的网站被抓取,包括付费墙后面的内容,进入了训练和运行 ChatGPT、Microsoft Copilot、Bing AI 功能的数据集;模型经常原样复述文章,还会生成编造的内容并冠以两家报纸的名字,构成商标淡化。市场损害那一节引了一个数字:2025 年 12 月,中型出版商来自搜索的引荐流量同比降了 47%。索赔金额未定,但要求法院下令“扣押或销毁”所有包含它们作品的副本、训练集和模型。

三方表态各说各的。西雅图时报 CEO Alan Fisco:“这不是要阻碍 AI 创新,而是要确保创新不以我们的商业模式为代价。”微软说对起诉“感到意外”,“重视西雅图时报对本地区的重要性,随时愿意坐下来探讨解决方案”。OpenAI 的回应还是那句:模型“建立在合理使用之上,帮助数亿人改善日常生活”。

这是同一条战线上的新一起:纽约时报 2023 年起诉,Alden 旗下报纸两年前起诉,去年 35 家出版商代表 400 多家社区报起诉,Anthropic 2025 年和作者、出版商以 15 亿美元和解。这一起的特别之处有两个。一是把“销毁模型”写进了诉求,这比赔钱激进得多,法院会不会认是个看点。二是关系尴尬:微软慈善部门一直资助西雅图时报的新闻项目,微软和 OpenAI 还联合出资 1000 万美元办了一个奖学金计划,西雅图时报从中拿过钱。拿着资助起诉资助人,说明这类出版商已经不觉得合作能换来公平报酬了。

The Spokesman-Review →

02 — 模型与产品

Google Assistant 9 月 4 日起在安卓上停用、Gemini 接管;同日 Gemini Spark 接入 Google Photos

手机、平板、手表、车机几周内切换且不能切回;Spark 能修图、整理相册、把海报变日历事件。

GoogleGemini智能体

展开

停用从 9 月 4 日开始,几周内推到所有用户,之后 Assistant 不再工作,没有切回的选项。范围是安卓手机、平板、Wear OS 手表、耳机和 Android Auto 车机;内置 Google 系统的汽车暂不动,Google TV、音箱和智能屏走另一条线换成 Gemini。这个计划原本定在 2025 年,推迟了一年,原因是 Gemini 擅长问答和总结,但控制设备、执行简单指令这类确定性的活反而不如老 Assistant 稳。

同一天 Gemini Spark 拿到了 Google Photos 的权限。Spark 是 Google 的个人智能体,用来跨 Google 服务跑任务,现在可以直接修图、按主题整理相册、自动把常用的照片建成共享相册、把一张演唱会海报的照片变成日历事件。用法是先把 Photos 连到 Gemini,在 Gemini 应用右上角打开 Spark,然后用自然语言说要做什么。先只在美国、只英文、只对 Gemini AI Pro 和 Ultra 订阅开放,未来几周推送。Photos 负责人 Shimrit Ben-Yair 的话是“我一直梦想有个强力智能体帮我用好我的 143206 张照片和视频,这一天来了”。

两件事放在一天,是同一个赌注:把确定性的助手拆掉,押智能体能把日常琐事做稳。风险 the-decoder 已经点出来了,通用模型做简单命令的可靠性还没被证明,Assistant 停用又不给回头路。接下来几周安卓用户对“关灯”“设闹钟”这些命令的抱怨量,会是 Gemini 能不能当日常助手的第一份真实评测。

TechCrunch →

03 — 论文

GRPO 里回放旧 rollout 该挑哪些:Headroom 看还有多少可学,Drift 看策略漂了多远

两个标量决定旧轨迹能不能回放,不加辅助网络;三类任务都超过 1.5 倍新采样的 GRPO,搜索墙钟省 16%。

GRPO经验回放样本效率

展开

问题是 RL 后训练的瓶颈越来越在“反复生成新 rollout”上,智能体任务里环境交互占了大头。回放旧轨迹能省,但已有做法各有毛病:只按最近一步回放的朴素方案 100% 取自上一步,多样性没了;ExGRPO、BAPO 这类要额外加探索、过滤、难样本缓冲区,机制越堆越多。这篇只用两个数。

Headroom 衡量一组旧轨迹还剩多少可以学的空间:对每个 token,优势为正就取 1 减去当前策略给这个动作的概率,优势为负就取当前概率本身,聚合成组级分数。直觉是,如果当前策略已经把该推高的推高、该压低的压低了,这组就没什么可学的了。Drift 衡量当前策略离生成时的策略漂了多远:在存下的 token 序列上算 log 概率之差的均方,低于阈值 τ 才放行;用平方是为了正负漂移不互相抵消,只看幅度。命题 2 把两者连起来:过了 Drift 门的组,当前策略下的 Headroom 和存储时的参考值相差不超过 √τ,也就是门控保证了优先级信号不会因为陈旧而失真。更新时把新采样的组和选中的回放组拼成一个 batch,各自带着生成时的参考策略进标准 GRPO 目标,新采样那条流完全不动。

数学五个基准(AIME24、AMC23、MATH500、Minerva、OlympiadBench)的 Mean@32 平均值高于所有对照,包括 1.5 倍新采样的 GRPO、DAPO、ExGRPO 和 BAPO。搜索智能体七个 QA 集上 Best@32 从朴素回放的 0.4623 提到 0.4879,墙钟从按新采样扩展的 197.2 秒降到 166.3 秒;Search-R1 上 Qwen2.5-7B 的 Mean@4 从 0.3737 到 0.3955;多模态 0.3986 到 0.4137。回放的样本 44% 来自三步以前,初始 Headroom 低于 0.8 的组被回放的概率不到 24%,高的平均被复用两次。西江大学的工作。做智能体 RL 的人可以直接试:回放侧只需要 teacher-forced 重算一遍固定序列,比跑环境便宜得多。

arXiv →

没有验证器怎么训长程智能体:DRACO 边训边生成 rubric,再把轨迹级奖励按步拆开

静态 rubric 约 25 步就饱和;改成边训边生成加逐步分配,AppWorld 上 TGC 从 69.4 到 85.3。

智能体 RLrubric 奖励信用分配

展开

RLVR 要有程序化的检查器,但大多数长程智能体任务没有,作者把这叫“outcome-blind”:训练信号完全来自过程准则,看不到真值。常用替代是 rubric,可静态 rubric 有个具体的失败模式:大约 25 步内分数就到 90 多,之后所有轨迹都得高分,区分不开了。另一个问题是轨迹级奖励把同一个优势平摊给每一步,十几轮交互里哪一步做对哪一步做错分不出来。

DRACO 两件事都做。rubric 是动态的:judge 先从任务指令提出准则,再对每条 rollout 补上轨迹特有的子目标,一组的提案合并去重,然后做“区分性丢弃”,只保留组里至少有一个成员没通过的准则,最后按这套准则打分,奖励是通过数减失败数再除以两者之和。步级分配是闭式的,不训归因模块:每一步的质量 Q 是引用到这一步的准则通过率,赢的轨迹用 Q 当权重、输的用 1 减 Q,把轨迹优势按权重分给各步并除以步长,保证总量守恒。judge 用 GPT-5.4、温度 0.1;换成策略模型自己当 judge,效果相当,成本低 5.1 倍,100 步的 judge 开销从 1607 美元降到 316 美元。

Qwen3.6-27B 在 AppWorld test_normal 上 TGC 从 69.4 到 85.3,比用单元测试真值做稀疏奖励的 GRPO 高 5.3;整场景成功率 SGC 从 41.1 到 70.6;test_challenge 从 49.7 到 61.5;零样本迁移到 τ-bench 从 15.8 到 20.4。Qwen2.5-32B-Instruct 从 35.7 到 62.9。三次都成功的一致性指标从 47.6 到 72.8,涨幅比单次更大。消融最有意思:只加动态 rubric 涨 0.8,只加步级分配涨 1.0,两个一起涨 4.2,一致性指标上涨 8.1;把步级分配套在静态 rubric 上反而在 challenge 集上掉 3.7。也就是说步级分配需要准则本身能区分,否则是把噪声往细里分。回合数从 18.7 降到 14.7。CMU 和 IBM Research 的工作,代码在 IBM/draco。

arXiv →

答对的 rollout 之间也能分高下:拿输出层梯度和专家解做余弦相似度当稠密奖励,开销不到 9%

只对 LM head 截断反传取梯度向量,和专家解比余弦相似度;从 Base 直训,HMMT pass@1 相对涨两三成。

RLVR稠密奖励梯度对齐

展开

RLVR 的二值奖励在一组里有多个正确 rollout 时是平的,分不出哪条推理更好。稠密奖励的替代品要么是表面启发式、要么是 PRM,前者容易被钻空子,后者贵;之前用梯度做奖励的 G2RL 和 Grad2Reward 也贵,分别多 37.1% 和 43.7% 的训练时间。作者盯上的资源是现成的:NuminaMath-CoT 这类数学语料每道题都带专家的链式思维解答,可没有任何奖励机制用过它。

做法是在 LM head 前挂一个 forward pre-hook 拿到隐状态,detach 掉不让梯度进 Transformer 主体,只通过输出投影层算 loss,每个 token 的信号是梯度和隐状态的逐元素积,L2 归一化后在回答位置上平均,得到一个 d 维向量。专家解答走同样的流程得到锚向量,一个 prompt 的 K 条 rollout 共用一次计算。奖励就是两者的余弦相似度,外面套四层:只有验证器判对的回答才拿这个加分;加分在组内正确子集上做中心化;截断到非负,保证没有一条正确回答的奖励低于基线;格式不对扣一点。定理 2 把 NTK 内积拆成“预测误差因子”乘“激活模式因子”,前者看两条轨迹是否犯类似的错,后者看是否走了同样的计算通路;实测同一解法的正确解之间分数 0.45,不同解法的正确解之间 0.13,说明信号抓的是推理策略而不是表面特征。

Qwen3-4B-Base 和 8B-Base 不做 SFT 直接训,约 1 万道 NuminaMath-CoT 题,K 等于 16,400 步。HMMT 2026 pass@1 4B 从 2.42 到 3.18,8B 从 4.24 到 5.15;HMMT 2025 4B 从 3.83 到 5.00,8B 从 4.50 到 6.00;AIME 2026 4B 从 6.83 到 8.50。只用数学训,GPQA Diamond pass@1 比 GRPO 高 2.57,MMLU-Pro 高 2.41。Qwen3-8B 在四张 A100 上多 8.3% 的墙钟。清华牵头,人大、中科院信工所、中科大等参与。两个保留意见:绝对分数很低,涨幅是相对值;这个奖励本质上是“像专家那样解”的先验,0.45 对 0.13 的差距反过来说也是它会压制另一条同样正确的路线。

arXiv →

04 — 工具与生态

Artificial Analysis 智能指数 v4.2:私有测试集权重翻倍到 40%,GPQA Diamond 因饱和被移出

9 月 4 日更新:新增两项私有集评测,Fable 5.1 居首,GPT-6 Astra 比 Sol 高约 4 分。

评测基准Artificial Analysis

展开

换进来两项:AA-Briefcase 是自建的、私有测试集的“复杂项目里的真实智能体知识工作”评测;GDP.pdf 考专业文档推理,100 份 PDF 共 4592 页,对照 1275 条专家标准打分。换出去的是 GPQA Diamond,理由是“出色的科学推理评测,但已经饱和”。私有保留集在总分里的权重从约 20% 提到 40%,目的写得很直白:“降低实验室针对评测优化的空间”。打分基础设施也修了一轮:系统提示改了,答案键纠错,Elo 重新定锚,代码沙箱更稳。

新榜单上 Fable 5.1 第一,GPT-6 Astra 比 GPT-5.6 Sol 高约 4 分,后面是 Meta、SpaceXAI、Moonshot、智谱、Google。按每任务成本看,Anthropic、OpenAI、Meta、智谱四家共享效率前沿,Astra 在接近前沿的位置上 token 效率最高。

提醒两点。一是 v4.2 和 v4.1 的分数不可比,这期之前引过的 AA 数字要按新版重看。二是把私有集权重加到四成,是评测机构对训练集污染的回答,代价是外人无法复现,榜单的可信度从“能验”变成“信不信这家机构”。

Artificial Analysis →

AMD Threadripper Halo:96 核加四块 MI350P、576 GB HBM3e 的桌面工作站,本地跑万亿参数模型

9 月 4 日公布,明年上市,预计 10 万到 15 万美元;4 bit 万亿参数全放显存,2.8T 靠内存卸载。

AMD本地推理硬件

展开

AMD 第一次把 Instinct 加速卡装进工作站机箱:水冷的 96 核 Threadripper PRO 9995WX,最多四块 PCIe 的 MI350P,每块 144 GB HBM3e、4 TB/s 带宽、FP4 算力 4.6 PFLOPS;系统内存最高 2 TB DDR5,合计 2.6 TB,总带宽 16 TB/s。AMD 的说法是总内存是英伟达 DGX Station 的 3.4 倍,带宽两倍多。四卡满配可能要 20 安培的电路,不然得降频。价格 10 万到 15 万美元,2027 年上市,没有具体日期。

它对应的是今年开放权重的体量:Kimi K3 2.8T、混元 Hy4 770B、GLM-5.3 这些都超出了任何一台消费级机器。今天 Hugging Face trending 前排还是 DeepSeek-V4-Flash-Vision-Exp、Qwen3.8-27B、Qwen3.8-Flash-Next、GLM-5.3 和 GLM-5.3-Flash,Unsloth 的 Qwen3.8-27B GGUF 下载已经过了 1000 万,说明本地跑开放模型的需求是真的,只是绝大多数人跑的是 27B 量化版。

和昨天微软 Project Zenith 那台 64 GB 起步的开发机放在一起看,本地推理市场正在分成两档:几千美元的消费盒子跑 30B 级,十几万美元的研究工作站跑万亿级。中间那档,也就是几万美元跑 200B 到 700B 的,现在还是空的。

The Register →

ISTA 给 Qwen3.8-27B 做的非均匀 GGUF:3.5 bit 版在 AIME25 和 LiveCodeBench 上和 BF16 一模一样,11.8 GB

逐张量选量化类型、按敏感度分配比特;2.5 bpw 的 8.4 GB 版 AIME25 比同大小 Unsloth 高 10 分。

量化GGUFQwen

展开

奥地利科技学院 DASLab(Dan Alistarh 的组)的发布,两个方法拼起来:GSQ 用 Gumbel-Softmax 松弛同时学每个坐标的网格分配和每组的缩放,把 2 到 3 bit 标量量化和向量量化的差距抹掉大半,但输出还是标准标量格式;RCO 负责给 N 个张量各选一种量化类型,把总大小预算约束改写成 logit 空间里的黎曼流形,直接在任务损失上做梯度优化,预算精确满足,不用调约束相关的超参。产物是普通 GGUF,llama.cpp、Ollama、LM Studio 直接跑,附 BF16 的视觉投影器,另有带多 token 预测头的 -mtp 版本供投机解码,大 0.35 GB。

数字对着 BF16(53.8 GB)看:IQ3_S 3.50 bpw、11.8 GB,AIME25 100.00、LiveCodeBench v6 85.71 都和原模型一样,GPQA-Diamond 89.39 差 0.51,体积缩小 4.6 倍;IQ3_XXS 3.00 bpw、10.1 GB 也是 AIME25 满分;最小的 IQ2_XS 2.50 bpw、8.4 GB,和同样 8.4 GB 的 Unsloth UD-IQ2_S 比,AIME25 96.67 对 86.67,GPQA 84.85 对 76.26,LiveCodeBench 76.57 对 72.00。五个零样本任务的恢复率全部不低于 100%。

这说明低比特量化的质量现在取决于“比特怎么分配”而不只是“用什么格式”,同样的 GGUF 容器,按张量敏感度搜索出来的分配能把 2.5 bit 做到能用。仓库把每个文件的逐张量分配表和 imatrix 都放出来了,可以审计。一个提醒:AIME25 只有 30 题,差 3.33 分就是一道题,小基准上的“一模一样”别过度解读。

Hugging Face →