第 XXXVII 期 · 2026-10-08 周四

OpenAI 公开 722 篇 AI 数学稿件,Claude Haiku 5.5 降价九成,GPT-6 推给全体用户。

9 条

01 — 头条

OpenAI 把未发布模型写的 722 篇数学稿件直接放上 GitHub,162 篇的主结果带 Lean 证明

内部模型被问了约 4000 个开放问题,平均每个结果三小时 Pro 算力,稿件以 Apache 2.0 公开。

数学OpenAI形式化验证

展开

仓库 README 交代了来历:OpenAI 原有的数学评测已经饱和,于是开始拿开放研究问题来评模型。整个评测里模型被问了约 4000 个问题,绝大多数结果走的是同一套流程,平均每个结果用掉三小时 ChatGPT Pro 级别的思考算力。筛掉分量不够的之后,留下 722 篇稿件,按 372 个结果族、按学科归档,每篇附 PDF、源文件和引用方式。其中 10 个结果还放出了模型推理过程的节选摘要,比如 π 的无理性指数、自由群因子是否同构、Kaplansky 直接有限性猜想在特征 2 下的反例。

真正要盯的是验证这一环。仓库的形式化目录里,162 篇的主结果配了 Lean 证明,包括标题为“拟黎曼猜想”的 ζ 函数在 Re(s)>7/8 无零点、对称 Mahler 猜想、三维相对论 Vlasov–Maxwell 方程组的整体经典解;剩下 560 篇没有。OpenAI 自己写明“部分未形式化的结果可能有问题”,并说明 ζ 函数零点区域和 CM 阿贝尔簇上的 Hodge 猜想这两项不是按固定流程做的,Re(s)>11/12 那篇的文字还经过人工润色。Lean 能保证推导没有漏洞,但形式化写下的命题是不是原题,仍然要人来逐条核对,仓库为此专门附了 Comparator 的核对说明。

这批结果的体量已经超出数学界人工审稿的消化能力,OpenAI 选择绕开期刊直接公开,让可机检的证明承担第一道信任。Altman 称之为“发现的新时代”,OpenAI 表示会资助研讨会和会议帮研究者消化这些结果,产出它们的模型则还在“负责任地发布”的路上。对做后训练的人,这也是一个信号:标准数学基准饱和之后,前沿实验室已经把“开放问题能解出多少”当成评测,而 Lean 这种可机检的证明,正是 RLVR 最想要的那类奖励。

GitHub(OpenAI) →

Claude Haiku 5.5 发布:标价降到 Haiku 4.5 的十分之一,Terminal-Bench 从 0 拉到 39%

10 万 token 内输入 0.1、输出 0.5 美元每百万,第一个带 effort 档位的 Haiku,上下文 1M。

Claude小模型API

展开

能力跨度很大。OSWorld 2.1 从 Haiku 4.5 的 15.7% 到 72.4%,Terminal-Bench 4.0 从 0 到 39.2%,不借工具的 Humanity's Last Exam 从 10.2% 到 45.9%,GDPval-AA 的 Elo 从 735 到 1620。和 Sonnet 5.5(83.9%、70.6%、56.9%、1840)相比仍有差距,但在 agent 编程的 FrontierCode 1.1 上是 46.4% 对 52.1%,已经咬得很近。

价格分两段:10 万 token 以内的请求,输入 0.1、输出 0.5 美元每百万 token;超过 10 万是 0.5 和 2.5;Haiku 4.5 是 1 和 5。Anthropic 说约九成的 Haiku 请求落在 10 万 token 以内。不过官方推特的说法是“平均运行成本低约 75%”,比标价的降幅小一截:文档写明它换了 Claude 4.7 之后的新分词器,同样的文本要多出约 30% 的 token,自适应思考也默认开启,这些都会吃掉一部分降价。

迁移时有几处会直接报错:手动设 budget_tokens 的扩展思考、非默认的 temperature、top_p、top_k,以及 assistant 预填充都不再支持,computer use 要换成新的工具集。回复可能以 thinking 块开头,按位置取第一个块当答案的代码会出错。上下文从 200K 提到 1M,输出上限从 64K 提到 128K。这类小模型的本职是分类、路由、抽取和子 agent,价格降一个数量级之后,很多原本靠规则或小开源模型撑着的环节,值得重新算一遍账。

Anthropic →

02 — 模型与产品

GPT-6 推给全体 ChatGPT 用户,回答里开始长出图表、按钮和小工具

付费档换成 GPT-6 Sol,免费档 10 月 8 日起用 Luna,回答里能混排图表和可交互控件。

OpenAIChatGPT产品

展开

Intelligent UI 是这次真正的变化。模型自己决定答案用什么形态呈现:比较类问题并排摆,解释类给能动手操作的示意图,简单问题仍然只回文字;还能当场生成储蓄计算器、分账工具、小游戏这类小工具。付费用户当天上线,免费和 Go 用户次日跟上,Enterprise 受管理员设置约束,旧版桌面客户端暂不支持,想对比的用户还能在模型选择器里切回 GPT-5.6 Sol。

速度是 OpenAI 着重讲的另一点。需要联网搜索的问题,GPT-6 Instant 平均比 GPT-5.6 Instant 早 44% 开始作答,推理和作答可以交错进行;GPT-6 的 Extra High 档速度与 GPT-5.6 Medium 相当,得分却高过 GPT-5.6 Extra High。Work 和 Codex 用的模型这次不变。

边界也写得清楚:Intelligent UI 目前只是 ChatGPT 的产品功能,API 还不能直接请求这些组件。OpenAI 也提醒,早期生成的布局、控件和计算质量会有波动,涉及财务、医疗等决定的工具需要额外核验。对一个周活超过 12 亿的产品来说,“回答即界面”一旦铺开,用户对所有聊天产品的预期都会被抬高一截。

TestingCatalog →

Claude 进驻 Google 文档、表格和幻灯片:侧边栏直接改文件,所有付费档公测

插件和连接器所有付费档公测,Sheets 里能写公式、建透视表、跑 Python,默认每处改动先问。

Claude办公Google Workspace

展开

两种用法。插件在打开的文件旁开一个侧边栏,读当前文件、按指令原地修改;连接器反过来,在 Claude 里新建或编辑 Google 文件。Docs 里可以直接改句子、改标题样式,也可以用建议卡片提交修改;Sheets 支持写公式、透视表和原生图表,还能用 Python 处理数据后写回表格;Slides 能按现有版式和主题加新页,并指出元素重叠、可读性差的地方。

默认是“编辑前询问”,每处修改都要点确认,也可以切到全部自动接受,所有改动都留在版本历史里。Team 和 Enterprise 要管理员批准才能开启连接器,Enterprise 的合规 API、客户自管密钥和 OpenTelemetry 审计导出也覆盖到插件。

看点在位置:Workspace 本来就内置了 Google 自家的 Gemini,Anthropic 等于在对手的主场开了一个入口。对办公场景的用户来说,选择不再取决于用哪套办公软件,而是侧边栏里放哪个模型。

Claude 官网 →

03 — 论文

TRACE:FP4 rollout 让 MoE 的 RL 越训越歪,症结在训练和推理两边取整不一致

Qwen 团队让训练侧照着 rollout 的 FP4 码字取整,全 FP4 rollout 追平 BF16,解码最多快 5.4 倍。

RL量化MoE

展开

RL 后训练的大头开销在 rollout,把推理量化到 FP4(权重、激活、KV cache 全是 4 bit)能省下大量算力和显存,麻烦在训练和推理之间的数值差会被放大。论文举的例子:BF16 下两侧激活只差 0.48(60.24 对 59.76),缩放后分别是 2.51 和 2.49,正好落在取整边界两边,被取成 3 和 2,差距一下变成 24。MoE 里这点差还会改变路由、选到不同的专家。QUADS、Rollout-ResQ 等已有方法各自压低两条路径的量化误差,却没有直接缩小两条量化路径之间的差,于是训练越往后不一致越大,最后奖励下滑、测试分崩掉。

TRACE 的办法很直接:rollout 时记下每个激活落到了哪个 FP4 码字,训练侧不再四舍五入,而是在相邻的两个候选码字里挑离它最近的那个。为了不让这份记录拖慢训练,作者观察到 99% 以上的不一致只差一个相邻码字,于是只缓存后半部分层的 1 bit 尾数和缩放信息,每个 token 约 7.5 KB,比完整记录小约 6 倍。

在 Qwen3.5-35B-A3B 的推理 RL 上,全 FP4 rollout 的四项平均 75.3,BF16 rollout 是 74.9,QUADS 68.8,普通 QAT 只有 59.6;HMMT25 从 QUADS 的 59.0 提到 70.0。更大的模型同样成立:Qwen3.8-Flash-Next 的 Terminal-Bench 70.6 对 BF16 的 68.8,Qwen3.8-2.4T-A95B 的 GDPval 90.2 对 90.3。128K 输出长度下解码吞吐最高是 BF16 的 5.4 倍,比普通 FP4 rollout 每步只多花 7.4% 时间。有意思的是,TRACE 起步时因量化掉分,约 120 步后追平 BF16,说明误差可控时,策略会自己适应低精度的执行环境。作者也说明,它消除不了异步训练里策略陈旧带来的激活差,只是不让这些差被 FP4 取整放大。

arXiv →

跨分词器在线蒸馏:费力补齐对不上的 token 反而掉分,只盯严格对齐位置的 top-16 就够了

严格一对一对齐已覆盖 86% 到 97% 的学生 token,给对不上的片段加监督,18 种设置全部降分。

在线蒸馏后训练分词器

展开

在线蒸馏(OPD)让学生在自己生成的轨迹上向老师看齐,是近来后训练里很热的做法。可一旦师生来自不同模型家族,分词不同,同一段文字切出的 token 边界和词表都对不上。SimCT、Byte-Prefix Marginalization 等工作的思路是扩大对齐覆盖,把更多老师信号补回来。阿里云这篇反过来问:严格对齐本来就保住了多少,补回来的那部分到底有没有用。

结果有点反直觉。Qwen2.5-7B→Llama-3.2-3B、Granite-4.1-8B→Phi-4-mini、Granite-4.1-8B→Qwen2.5-7B-Base 三组里,静态词表重合率只有 39% 到 65%,但在学生生成的轨迹上,一对一严格对齐的位置覆盖了 85.6% 到 97% 的学生 token;在这些位置上,共享词表拿走了老师 99.7% 以上、学生 99% 以上的概率质量。给对不上的片段额外加一项 span 对数概率的 MSE 监督,覆盖率到了 100%,可 3 组乘 6 个权重共 18 种设置,平均分全部低于只用严格对齐的基线,差 0.27 到 1.20 个点。梯度诊断显示,span 梯度和严格对齐梯度的方向一致性很弱甚至相反,相对大小还随训练变大。

实用的结论是:只在严格对齐的位置做反向 KL,而且只用学生概率最高的 16 个共享词,就能保住全共享词表 OPD 至少 96% 的提升,在三组上都胜过所评测的跨分词器基线。想用别家大模型给自己的小模型做在线蒸馏,不必先上复杂的对齐工程,监督信号可靠比覆盖得全更要紧。这篇是当天 HF 每日论文里点赞最多的一篇。

arXiv →

BoT-GRPO:把 GRPO 的整条回答同一个优势,换成按长度加权的 token 级优势

token 奖励按所在回答长度的倒数加权后再算优势,React 代码达到 80% 编译率最多快 1.9 倍。

GRPO过程奖励RL

展开

GRPO 的优势是序列级的,一条回答里关键推理步和无关的话拿同样的分,长推理链上的信用分配很粗。有了 token 级奖励模型,按理可以分得更细,但直接把 token 奖励混在一起算组内统计,长回答的 token 多,会主导均值和方差;改用价值网络,又回到 PPO 的成本。

BoT-GRPO 的做法是:收集一组 rollout 里所有 token 的奖励,每个 token 按所在回答长度的倒数加权,让每条回答对组统计的贡献相等,再用加权后的组均值和标准差算出每个 token 的优势。不需要 critic,凡是有 token 级奖励的地方都能直接替换 GRPO。React 前端代码生成上,达到 80% 编译率的速度最多是 GRPO 的 1.9 倍,收敛也快过 GSPO、DAPO、PURE,最终编译率和 VLM 评判胜率更高;AIME 上用一半步数拿到最高 8.1 个点的 Pass@k 提升。实验用的是 Qwen2.5-3B、SmolLM3-3B 和 Phi-4-mini-reasoning。

比算法本身更有参考价值的,可能是奖励这一侧的经验:稳定比丰富重要。编译器、ESLint 这类干净、有界、确定的细粒度信号一直在加速学习,VLM 给出的逐行归因噪声大,加进去反而可能让训练失稳,编译器加 Linter 再加一个 LLM 评判就够了。局限也明显:只做了两个领域,每个配置只跑一个随机种子,AIME 的步骤评分依赖 Claude Sonnet 4 当评判,也没有把长度加权和 token 级信用分配各自的贡献拆开。

arXiv →

04 — 工具与生态

HF 热榜第一的 JEV-27B-VL:决策头只用文本训练,看图做选择却排到 20 个视觉决策模型第一

基于 Qwen3.8-27B,一次前向给每个选项一个校准过的概率,社区 Vision 榜综合分 69.82 居首。

决策模型多模态开源

展开

Jev 走红之后,HF 上这类决策模型越来越多:不生成文本,给定状态和若干类型化的问题,一次前向就输出每个选项的概率(System 1),需要时再交给原版 Qwen3.8-27B 一步步思考(System 2)。JEV-27B-VL 的特别之处是视觉能力全是零样本得来的:适配器和决策头只用文本训练,视觉编码器原封不动沿用底座。

模型卡给的数字:在社区维护的 Jev Decision Index 0.3 Vision 榜上(10 月 7 日更新),它的综合分 69.82,第二名 Solomon v1.1 为 67.66,作为参照的原版 Qwen3.5-397B-A17B 为 63.44;13,695 条样本上的校准误差 ECE 0.019,单条约 264 毫秒。演示里它只看用户最近 5 个视频的封面和候选封面,在 MicroLens-100k 上做零样本推荐,AUC 0.727,和用 59,045 名用户观看记录训出的物品协同过滤(0.728)持平。

局限模型卡里也写了:直接让它在 8 个电机指令里选一个来控制机械臂,10 个场景一个也没完成,要拆成“目标在左还是右、在上还是下”这类简单判断才行(20 个场景完成 75%);电脑操作只给编号框、不给元素文字时,成功率从 95% 掉到 10%,常常过早宣布任务完成。这些数字都是作者自报,用之前值得在自己的数据上复测一遍。目前下载量已过 150 万。

Hugging Face →

AI 大本营按下暂停键:旧金山和奥克兰同日通过 45 天数据中心禁令

两市 10 月 6 日一致通过、立即生效,Bayview 扩容到 36 兆瓦的项目和 Dogpatch 新项目都被叫停。

数据中心政策算力

展开

旧金山的紧急条例由第 10 区议员 Shamann Walton 提出,冻结全市新建和扩建数据中心。被卡住的包括 NOVVA 在 Bayview 那座 7.6 英亩园区的扩容(原计划 2028 年前从 9 兆瓦扩到 36 兆瓦)、Dogpatch 一座 16 万平方英尺的新项目,以及第 6 区的两处提案,其中一处与亚马逊有关。奥克兰同一天通过了同样的 45 天禁令,市议员 Fife 特别点名开发商用保密协议挡住了公共信息。

45 天里,规划部门要评估数据中心对用水、用电、空气质量、土地利用和周边社区的影响;如果认定影响显著,禁令最长可延到 22 个月,或者转为永久管制。Walton 办公室的目标就是永久禁止,该区几位候选人也都表态支持。Bayview-Hunters Point 本来就因卡车和工业设施承受了几十年的空气污染。

象征意义大于规模:这是 OpenAI 和 Anthropic 总部所在的城市。加州州长纽森 9 月已经签了七项数据中心监管法案,湾区的 Pittsburg、Oakley、Gilroy 也都有反对声浪。算力扩张的阻力,正从电网和芯片延伸到地方议会的一纸条例。

SFist →