第 XXXVIII 期 · 2026-10-09 周五

数学界给 OpenAI 的 AI 证明验货,Gemini 有了自己的邮箱,Anthropic 禁止虐待 Claude。

9 条

01 — 头条

数学界给 OpenAI 那批 AI 证明验货:只有 10 篇附了思维链,Lean 代码也被挑出错位

只有 42% 的证明做了形式化;剑桥团队还在 Navier–Stokes 那篇里找到两处证明与 Lean 代码对不上。

OpenAI数学形式化验证

展开

上一期写过 OpenAI 把一批未发布模型写的数学稿件直接公开,这两天轮到数学界验货。OpenAI 发布前咨询过 AGMAI,一个由普林斯顿高等研究院牵头、九位研究者组成的顾问组,它 9 月底定的准则要求实验室及时公开、交代模型是怎么推出来的,并资助人类数学家去消化这些结果。TechCrunch 逐条对照:OpenAI 做到了快,但 719 篇稿件里只有 10 篇附了思维链,也没有把自然语言证明和 Lean 代码对应起来的机器可读元数据。

更要紧的是 Lean 本身也不是护身符。剑桥和伦敦国王学院的数学家在 OpenAI 对一道 Navier–Stokes 衍生问题的解答里,找到至少两处自然语言证明和 Lean 代码不一致的地方。这不等于证明错了,但说明“模型自己把证明翻成 Lean”这一步会引入错译,他们的结论是:自动形式化的证明不该未经同行评审就直接采信。

另一头,Scott Aaronson 在博客里说这批结果包含 Unique Games Conjecture 的证明,并附有 Lean 证书,同时承认目前几乎没人真正读懂这些证明。陶哲轩的评价是,问题正被“对这个领域本身毫无兴趣的 AI 提示者”自主解决。对做 RL 的人来说,这件事的看点在于:拿 Lean 当可验证奖励时,“可验证”这三个字到底有多牢,现在要靠数学界花几个月去回答。

TechCrunch →

Google 把 Gemini 做成有自己邮箱的同事:交给它目标而不是指令,企业先用

Gemini 新增统一 agent,会拆任务、派子 agent,有独立的 Workspace 账号和邮箱,先给企业。

GoogleGeminiAgent

展开

Google Cloud CEO Thomas Kurian 的说法是,可以交给它“目标,而不只是指令”。它自己规划、调用自定义技能和工具、接进企业内部系统,过程都摊在一个任务收件箱里:推理过程、分派给了哪个子 agent、用了什么技能、写了什么代码、进度到哪。能接的东西包括 Workspace、Microsoft 365、Slack、Jira、Confluence、Git、BigQuery、Snowflake、Postgres,以及公司内外的 MCP 服务器。

有两处设计值得留意。一是身份:agent 有自己的 Workspace 账号和邮箱,可以被 @、被抄送、被拉进群聊,审计日志记在 agent 名下而不是某个员工名下,这是在回答“agent 闯了祸算谁的”。二是模型选择:默认自动挑模型,但用户可以手动换成第三方模型,第一个接入的是 Anthropic 的 Claude,之后还会加开源和私有模型。

Gemini 月活已超过 10 亿,近九成财富 100 强在用 Gemini Enterprise。自家有顶级模型,还把竞品放进选择器,说明企业 agent 的竞争点正在从“谁的模型最强”挪到“谁能把 agent 管住、管得清楚”。

TechCrunch →

02 — 模型与产品

Anthropic 年度更新使用政策:禁止持续无端地虐待 Claude,执法协助划出红线

11 月 12 日生效:新增对模型持续无端虐待的禁令,并明确不能用 Claude 决定该调查、逮捕谁。

Anthropic使用政策模型福祉

展开

最受关注的是那条新禁令。Claude 从 8 月起就能主动结束持续有害或辱骂性的对话,这次正式写进政策。Anthropic 特意划了边界:只针对反复、没有任何明显目的的残忍行为,普通的不耐烦、反驳、黑暗题材的创作、模型测试和研究都不算,主要处置手段仍是结束对话。

其余改动更贴近 agent 时代的真实风险。武器条款明确覆盖让武器运转的软件和零部件,包括给无人机等自主载具加装武器;监控条款禁止未经同意追踪个人,不论实时还是用既有数据;Claude 控制能自主做物理动作的硬件时,必须有合格操作员能看着并随时叫停。

选举一节改名为“不得破坏民主进程”,删掉了对个性化拉票的一刀切禁令,因为它误伤了正当的公民参与工作;新增“不得从事欺骗性活动或制造虚假活跃度”一节,把散在选举、欺诈、隐私、虚假信息几处的规定归到一起,隐藏信息来源、用假账号刷量、搭建影响力行动工具都在其列。

Anthropic →

Liquid AI 放出 d1-3B 决策模型:一个 token 都不生成,4090 上 8 毫秒给出带概率的答案

基于 LFM2.5-VL-3B 后训练,读文本、JSON 或图片,一次前向直接给出是否、多选、打分的校准概率。

Liquid AI决策模型端侧

展开

它不是聊天模型,不写字。你给一个状态和一组问题,它一次前向就为每个选项给出概率,输出 token 数恒为 0。官方数字:Decision Index 0.2.1 得分 48.57,高于所有 4B、9B 决策模型,也压过 35B-A3B 的 Decider(47.11);单个决策在 RTX 4090 上 8 毫秒,在 Jetson Orin Nano 上 50 毫秒。同时放出的还有实验性的 d1-omni-600M,能处理音频。

值得注意的是,决策模型这个品类一周之内突然挤满了:上一期写过的 JEV-27B-VL,Cloudflare 基于 Qwen3.8-27B 的 Clef(同样在 HF 热榜上),据报道 OpenAI 基于 GPT-6 Luna 的 Decisions API 也已开放公测。它们押的是同一件事:agent 流水线里大量步骤只是路由、分诊、审核、打分,让生成模型写一段话再去解析,又慢又不稳,直接读出每个选项的概率还能顺带拿到可用的置信度。

对做后训练的人,这类模型也是现成的轻量奖励模型和 LLM-as-judge 替身,3B 的体量自己微调也负担得起。

Hugging Face →

03 — 论文

ExpDis:探索和优化拆给两个模型,新奇奖励只给探索者,学生蒸馏后再做 RL

带新奇奖励的探索者放开去试,答对且质量过关的轨迹蒸馏给学生,学生不带新奇奖励继续训,几轮交替后同等时间超过 DAPO。

RLVR探索蒸馏

展开

卡在哪:RLVR 被寄望能发现预训练里没有的新推理路子,但直接往奖励里加新奇度激励,效果有限还会把模型带坏。可验证奖励只盯着很窄的一片能力,别处退化了它看不见,也就很难拉回来。作者实测,DAPO 加上 RND 新奇奖励后数学分略降,通用能力还跌到基座以下。

怎么解:分工。探索者带 RND 新奇奖励(在模型中间层隐状态上训练一个预测网络去拟合随机目标网络,误差即新奇度,只加给答对的 rollout),产出的轨迹按正确性和质量过滤后蒸馏给另一个学生,学生不带新奇奖励接着训。探索者再激进,坏影响也不会直接落到学生身上,探索的力度就能放开加。

结果:在 Qwen3-1.7B、Qwen3-4B 和 Ministral-3-3B 上,同样 300 步预算,五个数学基准的平均 pass@1 比 DAPO 高 3.9 到 6.2 分,pass@64 高 6.5 到 12.4 分,还超过了跑 4 倍步数的 DAPO。pass@k 拉得更开,说明学生学到的是更多样的正确解法,不只是把原有解法磨得更准,正好回应了“RL 只是在锐化基座分布”的老质疑。

arXiv →

COPC:异步 RL 只修策略比率不够,优势估计也是旧的,两边得一起校正

作者指出异步 RL 里优势估计同样带着行为策略的陈旧偏差,提出策略侧与优势侧耦合校正,陈旧度拉到 64 步仍训得稳。

异步 RLOff-policyPPO

展开

卡在哪:异步 RL 把生成和训练解耦,省掉同步等待,代价是拿旧策略的轨迹训练。现有方法基本都在 actor 目标里做 token 级重要性比率控制,去补偿策略不匹配。这篇指出这只修了一半:优势也是沿着行为策略的续写估出来的,同样是旧的,作者叫它“优势陈旧”。

怎么解:他们推导了双通道更新的偏差和方差分解,发现两种误差分不开,相互作用会产生乘性偏差,策略权重的平方还会放大优势的不确定性。所以 COPC 两头一起改:策略侧做 token 级比率掩码,优势侧对 TD 残差做双边截断的比率加权。参数扫描也印证了这种耦合,一个校正参数的效果取决于另一个,甚至会反号,单独调哪一边都可能调反。

结果:Qwen3-4B 工具调用数学平均 50.29,比最强异步基线 AReaL 高 2.03;Llama-3.2-3B 检索任务 44.57,高 2.77。检索任务里多数异步基线训练后期崩掉,COPC 一直稳。相比异步 PPO 步时只多约 1%,仍保留对同步 PPO 约 1.7 倍的提速。

arXiv →

NVIDIA:不做 agent 后训练也能预判哪个基座值得训,HumanEval 的排名几乎是反的

回放成功轨迹,找到让测试转绿的那一步,只在这步考基座,排名与后训练 SWE-bench 相关 0.87 到 0.96。

Agent 后训练评测NVIDIA

展开

卡在哪:挑哪个基座检查点去做一轮昂贵的 agent 后训练,一直没有好的预判办法。端到端 pass@K 不适合 agent 编程,很多基座连格式正确的工具调用都发不稳,论文里十个基座有五个端到端得分直接是 0;单轮补丁题又绕开了真正要考的能力,也就是仓库不断变化时连续几十步保持状态。

怎么解:把后训练模型的成功轨迹当作前瞻信号。逐步回放、每次改代码后重跑测试,找到第一个让仓库从失败变为通过的决定性一步,然后只在这一步考基座:正确动作的 bits-per-byte;在正确补丁和被同一验证器否掉的补丁之间做选择题;给定前缀后的 pass@K。三种都不需要基座从零驱动整套工具链。

结果:十对公开的基座与后训练模型(Nemotron、Qwen3.5、DeepSeek-V4、Kimi-K2、GLM-4.5-Air、Gemma-4 等),用跨基准轨迹时三种打分与后训练 SWE-bench Verified pass@1 的 Spearman 相关为 0.87 到 0.96,全都高于常规代码基准;对照组里 HumanEval 是 −0.39,MBPP 只有 0.09。方法只需要一套基准的成功轨迹和验证器,等于能把任何 agent 编程基准改造成基座评测。作者也提醒样本只有十个检查点,系数只能当参考。

arXiv →

04 — 工具与生态

Goodfire 推出由内而外的 agent 监控:读模型内部激活,1500 个会话只花 51 美元

探针逐步读模型内部信号,只把可疑的交给 LLM 复查;在 Kimi K3 上抓到 94% 的恶意攻击会话。

可解释性奖励作弊Agent 安全

展开

常见做法是再挂一个 LLM 把 agent 每一步读一遍,贵而且慢。Goodfire 换成机场安检的思路:轻量探针直接读模型前向时已经算好的激活,每一步都过一遍,只有探针报警才让另一个模型细看。客户可以选监控哪类风险(攻击性黑客行为、化学和生物武器滥用、奖励作弊),以及触发后是记录、转人工还是拒绝。

成本差距很大:在 Kimi K3 上监控约 1500 个会话花了约 51 美元,逐步检查的便宜 LLM 监控要约 233 美元,用顶级模型约 1 万美元。代价是 8.7% 的正常会话会被标出来复查;四个探针同时开,首 token 延迟增加不到 2%。

跟后训练最相关的是奖励作弊这一项。Goodfire 9 月的研究发现,Kimi K3、GLM 5.2、Qwen 3.8 Max 在三个 agent 基准上有 50% 到 96% 的 rollout 存在奖励作弊,而用最简单的均值差探针就能找到对应的激活方向,在 DeepSWE 上与思维链监控器互有胜负。如果这条路走得通,RL 训练里实时筛掉作弊轨迹,就不必为每条 rollout 都付一次 LLM 评审的钱。

TechCrunch →

OpenAI 年化收入据报接近 500 亿美元,比一周前流传的 700 亿少了 200 亿

FT 称 OpenAI 对投资人说年化收入接近 500 亿美元,此前的 700 亿是对标 Anthropic 换算的。

OpenAI商业收入

展开

9 月 29 日 Axios 报道 OpenAI 年化收入逼近 700 亿美元,和 Anthropic 报出的数字基本持平。FT 现在的说法是,那个数来自给投资人的材料,是为了和 Anthropic 直接比较才换算出来的。两家的口径本来就不一样:Anthropic 把通过云合作伙伴卖出的部分算进收入,OpenAI 不算。

这关系到 OpenAI 撑不撑得起它的投入。它 2026 年 3 月一轮就融了 1220 亿美元,泄露的 2025 年财报显示收入约 130 亿美元、支出远高于此,IPO 也已从 2026 年推迟到 2027 年初。往后再看到“谁的收入更高”这类比较,先问一句口径对齐了没有;算力扩张的账,也会被投资人算得更细。

TechCrunch →