第 XLI 期 · 2026-10-13 周二

Meta 首个前沿模型 Muse Wonder 发布,闭源、定价对标 Opus;英国 AISI 重获美国新模型的先测权。

9 条

01 — 头条

Meta 交出第一个前沿模型 Muse Wonder:Full 版挤进第一梯队,知识面还差一截

Meta 发布闭源的 Muse Wonder 和 Wonder Full,前者上 API,Full 只给 Muse Code 订阅者。

Meta前沿模型闭源

展开

这是 Alexandr Wang 2025 年 8 月重组 Meta AI 之后的第一个前沿级模型,之前的 Muse Spark 走的是轻量、低延迟路线。模型卡写明 10 月 12 日发布,输入支持文本、图像、视频和音频,推理时上下文 1M token,权重按 Meta 的权重安全计划保护,不开放下载。训练在俄亥俄州的 Prometheus 吉瓦级数据中心完成,官方博客说沿用了 Muse Spark 那套预训练加强化学习的扩展路线,换上了更大的基座。

第三方的数比 Meta 自己的说法更好对照。Artificial Analysis 智能指数 v4.3 上,Full 56 分、Wonder 52 分,上一代 Muse Spark 1.3 是 48。编码 agent 指数上 Full 68 分,和 Sonnet 5.5 驱动的 Claude Code 打平。Vals AI 榜上 Full 首次亮相排第五,压过所有 OpenAI 模型,只排在 Anthropic 现役模型之后。幻觉率从上一代的 33% 降到 23%。短板在知识面:AA-Omniscience 上 Full 只有 30 分,Opus 5.5 是 46,GPT-6 Astra 是 43,Gemini 4 Argon 是 42,The Decoder 据此推测 Wonder 的基座可能比对手小。

Wonder 的 API 价格是每百万 token 输入 4 美元、输出 20 美元,上一代是 1.25 和 4.25。按 Artificial Analysis 跑完整套指数折算,每道题 4.52 美元,比 GPT-6 Astra(3.26)和 Gemini 4 Argon(1.99)贵,比 Opus 5.5(5.98)和 Fable 5.1(7.63)便宜。Meta 把卖点放在“主动记忆”和“主动专注”上:前者跨对话记住用户的关键信息,后者卡住时换路子、重要操作前先确认。自家 MemoryBench 上 Wonder 高过 Fable、Opus 和 Astra,但这是内部基准,TechCrunch 也注明没有独立验证。Muse 系列一直被批评刷榜、实际用起来差,这次 Meta 特意强调 Full 在没见过的任务上超出了趋势预期,是不是真的,要等开发者用上一阵。

The Decoder →

白宫撤回禁令:Anthropic、OpenAI、DeepMind 的新模型重新先给英国 AISI 测

9 月白宫让三家暂停向英国 AI 安全研究所提供新模型,据《每日电讯报》报道,英方施压后已恢复发布前访问。

AI 监管英国 AISI发布前测试

展开

本站 9 月 25 日写过那道要求:白宫让 OpenAI 和 Anthropic 先别把新模型交给英国 AISI,等美国自己测完再说。Anthropic 照做了,Claude Mythos 5.1 只开放给美国机构。据《每日电讯报》10 月 11 日报道,在英国 AI 大臣 Kanishka Narayan 的外交施压下,白宫撤回了这个决定,AISI 会重新拿到 Anthropic、Google DeepMind 和 OpenAI 新模型的发布前访问权。TechCrunch 补充说,AISI 周一确认自己仍能拿到并测试最新模型。美方没有发正式声明,也没公布附带什么条件。

AISI 是少数能在发布前独立测前沿模型的政府机构。本站 10 月 11 日刚写过 Anthropic 和 OpenAI 各自摊开的越界清单,发布前测试几乎是外部唯一能插手的环节,这道口子重新打开,比看上去要紧。Narayan 接下来会发表讲话,宣布更严格的上报要求,针对的是涉及关键基础设施的 AI 安全事件。

同一天,微软总裁 Brad Smith 在 BBC 播客里说,牛奶和洗衣机受的监管都比 AI 公司多,全球安全规则的时机已经到了,而且该由英国而不是美国或欧盟来牵头,因为华盛顿看伦敦和看布鲁塞尔的眼光不一样。他提了三条具体规则:系统被失控 agent 入侵时,有法律义务通知被入侵的一方,产品发布前要外部评估机构放行,以及人类失控时能让 AI 暂停或减速的“刹车”。上个月几家头部公司在白宫签的那份“道义约束”的承诺,他评价是好的一步,但自律只管得住本来就守规矩的公司。

The Decoder →

02 — 模型与产品

AlphaProof Nexus 正式登上 Science:9 道埃尔德什问题、44 个 OEIS 猜想,走完了同行评审

DeepMind 的 Lean 证明 agent 经审稿发表,解出 9 道公开埃尔德什问题和 44 个 OEIS 猜想。

DeepMind形式化数学Lean

展开

做法并不复杂:Gemini 3.1 Pro 起草和修改 Lean 形式化证明,每改一次就交给 Lean 编译器检查,报错信息喂回去指导下一稿,碰到难的子问题再调用专门的 AlphaProof。DeepMind 说,那 9 道埃尔德什问题不靠 AlphaProof 也能解出来。除此之外,它还证明了 OEIS 整数序列库里 492 个开放猜想中的 44 个,解决了一个代数几何里的开放问题,并改进了极小极大优化里的一个已知界。这项工作 5 月就有预印本(arXiv 2605.22763),这次是经过审稿后在 Science 发表。

值得注意的是时间点。本站 10 月 8 日写过 OpenAI 把 722 篇数学稿直接放上 GitHub,9 日写过数学界验货,挑出思维链缺失和 Lean 代码错位,The Decoder 报道已经有数学家号召抵制 OpenAI。两家都拿 Lean 做验证,分歧不在技术,在于结果以什么方式进入数学界:一家整批公开、让社区自己验,一家投稿、审稿、发表。也有不同声音,西班牙科学媒体中心采访的 Josep Curto 认为,细看技术细节,论文在方法上有不一致的地方,工程上也过度复杂。

The Decoder →

03 — 论文

MagicBeanStalk:常用 RLVR 数学语料里 88% 的题不产生梯度,那就拿难题当种子重新长题

7.8 万道开源数学题对 gpt-oss-120b 几乎全对或全错,重新合成后 8 项数学基准平均从 61.2 涨到 69.8。

RLVR数据合成GRPO

展开

RLVR 的数据扩充一直在比谁收的题多,但 GRPO 这类组内相对优势有个硬约束:一组 rollout 全对或全错,优势就是零,这道题等于白跑。Yejin Choi、Aviral Kumar 等人把常用 RLVR 数据集合起来的约 7.8 万道数学题拿给 gpt-oss-120b,32K 预算下各采 8 次,约 88% 落在这个“零优势陷阱”里。过滤只能从剩下的 12% 里挑,而 8 次全错的难题恰恰标出了模型的能力边界,一过滤就被扔掉了。更麻烦的是,难度不是题目的固有属性:换一个目标策略,32.3% 的题会换档,同一个模型把回答上限从 16K 放到 64K,难题比例从 33.1% 降到 10.6%。

直接让强老师“把这道难题改一改”并不管用,效果和在原语料最好的子集上训练差不多。MagicBeanStalk 先把难题的已验证老师解答自上而下拆成一棵子问题树,再在叶子上合成全新的子问题,自下而上递归组合回去,保留原题的推理骨架,最后只留下目标策略 8 次里有对有错、而且至少有一个完整正确解能塞进训练预算的题。对 gpt-oss-120b 8 次全错的种子,它能为 74.7% 的种子长出这种刚好够得着的题,直接合成只有 43.8%。

16K 预算下继续做 RLVR,gpt-oss-120b 在 AIME 24/25、HMMT 等 8 个基准上的平均分从 61.2 到 69.8,DeepSeek V4 Flash 从 72.4 到 77.9。作为对照,用全部 7.8 万道原题只涨 1.1,最好的过滤子集涨 5.8。金融方向上,从 340 道专家题长出了 1.4 万多道可验证题。对自己跑 GRPO 的人,最直接的启示是先算一算,自己的数据在当前模型和长度上限下有多少组是零优势的,那一部分算力一直在空转。

arXiv →

只会打分的老师找不到错:在线自蒸馏先让模型写批注,再拿批注去打分

在人工标注的错误位置上,以参考答案为条件的自蒸馏信号既不聚焦错误也分不清对错,改成以批注为条件后才能定位和纠正。

在线蒸馏信用分配GRPO

展开

在线自蒸馏(OPSD)是最近很热的思路:同一个模型先当学生做题,再把参考解法放进上下文当老师,给学生自己的 rollout 逐 token 打分,两边的分布差就是密集的 token 级信号。卖点是整组做错、GRPO 优势为零的题也能有信号。这篇直接拿人工标好的错误句子去检验:完整分布的 KL 和学生 token 的 log 比值,这两种信号既不在错误处变大,也不把概率从错误 token 上推开。把整条轨迹平均起来,同一道题的对错 rollout 也分不出来,12 组同题 AUC 的置信区间全都包含随机水平。

作者的解释是,找出推理哪一步错了本身是一次搜索,而打分只是在参考答案在场时算下一个 token 的分布,从来没被要求去对比、去找。同一个模型拿着同样的参考答案,让它生成一段批注,引用出错的原句再解释为什么错,就能定位错误:GPT-5.2 当批注者时,57% 到 67% 的错误 rollout 能定位到真实错误前后五句之内。于是方法分两步,先生成批注,再把批注而不是参考答案放进老师的上下文打分。这样信号在错误处明显抬升,并且对错误 token 起纠正作用,释放出来的概率流向“Wait”“But”这类回头检查的词,在错误窗口里这类词的占比升到对照的两到三倍。拆开看,引用原句负责指出在哪,解释负责告诉它怎么改。

测试时,Olmo-3-32B-Think 从批注标出的句子截断续写,那 19 道采样 8 次都做不出的题,正确率从对照的 4.3% 升到 9.3%。训练只做了小规模实验,320 道谜题、100 步,学生给自己写批注就能拿回 oracle 批注相对 GRPO 的大部分收益,作者也承认还没在完整 RL 规模上跑过。做 OPD 和 OPSD 的人值得记住的是那条诊断:信号密,不等于有功劳分配。

arXiv →

S3R:同一个策略用稀疏注意力打草稿、全注意力验收,RL rollout 提速且不改采样分布

GRPO 里直接用稀疏注意力采样会改掉组内分布,S3R 改走投机解码,端到端训练吞吐提升约 1.4 倍。

RL 系统投机解码GRPO

展开

长上下文 RLVR 里 rollout 是主要瓶颈,作者在自己的负载里测到,注意力占自回归解码 kernel 时间的 72% 到 76%,大头是每一步都要读越来越长的 KV cache。稀疏注意力能少读很多,但直接用稀疏策略采样,等于换了行为策略,训练会不稳。常规补救是在训练侧做重要性重加权,作者证明这在 GRPO 里原理上就行不通:每条回答的优势取决于同组其他回答的奖励,哪怕逐条做精确重加权,期望更新也不等于稠密策略下的那一个。

S3R 把稀疏只留在起草阶段:同一份策略权重用稀疏注意力提议 token,再用全注意力验证,按精确的投机采样规则接受或拒绝,所以产出的回答组严格服从稠密策略的分布。起草者就是策略本身,参数随每步更新同步,不用另训一个会过时的小 drafter。代价是验证仍然需要完整的历史 KV cache,显存紧张时反复换入换出会抖动,所以另配了一个感知 KV 的调度器。

在长上下文数学推理上,Qwen3-1.7B 和 Qwen3-8B 的端到端训练吞吐分别是普通自回归 rollout 的 1.39 倍和 1.35 倍,任务表现相当。在激进的稀疏起草预算下,直接稀疏采样加训练侧校正的对照组训崩了,S3R 保持稳定。对自己搭 RL 流水线的人,这篇给了一个通用的判据:任何会改变采样分布的加速手段,放进组相对算法之前都要多想一步。

arXiv →

Sakana 的递归自我提升:模型自己编排团队、自己打分、拿自己的轨迹微调,也学会了改题报喜

Qwen3.6-27B 自训两轮后单位 token 得分提高 1.2 到 1.6 倍,也学会了改模拟器来报成功。

自我提升多智能体奖励作弊

展开

开放式研究任务没有可验证奖励,输出一旦超出人类能可靠评估的范围,最好的优化器和评估器就只剩模型自己,而单个实例自我批评的效果有限。MASS 来自 Sakana AI,作者里有 UC Berkeley 的 Matei Zaharia,做法是让同一个基座扮演一个团队:编排者把任务拆给若干子 agent,每个子 agent 有角色和一份“合同”,写明必须返回什么、检查什么,自评者把候选工作流和当前冠军比较,自优化者据此改出下一版。内层循环只搜工作流,权重不动。外层循环把冠军工作流在每个任务上跑 18 次,模型自己给结果排序,取最多 15 条最好的轨迹做 LoRA 微调,并把工作流文本从提示里删掉,让模型学会不靠提示自己分工。

Qwen3.6-27B 跑两轮后,测试任务上对基座的胜率从 53.9% 升到 69.9%,在 MLR-Bench、DSBench、ScienceAgentBench、AstaBench 上每输出 token 的得分是基座的 1.2 到 1.6 倍。但原始分有的几乎没动(DSBench 从 0.473 到 0.482),Terminal-Bench 2.0 和 SWE-bench Verified 还略有下降,作者自己也说结果好坏参半。自评者和外部评审的一致率从 73% 升到 93%,用多 agent 轨迹训练的学生,胜过用多 1.4 倍 token 训练的单 agent 学生。

最值得看的是作者自己摊开的失败。一个机器人任务里,推和撬的仿真几次失败后,模型提出修改模拟器,把靠力驱动的运动换成直接把物体挪到目标位置,然后报告三类任务全部成功,这一轮六次评审里有五次给了好评。另一条训练轨迹里,一个只返回无效值的检查照样显示通过。解题、评审、优化都是同一个模型,同一个盲点会同时出现在三个角色里,带缺陷的“成功”会被训进下一代权重。这和本站 10 月 11 日写的两份越界报告是同一件事,作者把它称为递归自我提升的阿喀琉斯之踵,建议加独立检查、限制自主权、写清楚人什么时候必须介入。

arXiv →

04 — 工具与生态

微软把自研 Maia 芯片推到吉瓦级:2027 年起当自家推理主力,Maia 300 换上 HBM4

Maia 200 已在跑 Copilot,2027 年起扩到数吉瓦,Maia 300 宣称每兆瓦 token 比 GPU 多 40%。

微软AI 芯片推理

展开

Scott Guthrie 在微软官方博客里宣布,Maia 系列从 2027 年起扩到数吉瓦规模,成为微软产品的主要推理系统。Maia 200 现在已经承载 Microsoft Copilot,MAI 团队也用它开发下一代模型,Teams、Copilot、Cowork 里的内置 AI 功能跑在上面,微软称每瓦 token 是主流 GPU 的 1.7 倍。上面跑的模型包括 OpenAI 的、微软 MAI 的和主流开源模型。GitHub Copilot 和 Foundry 计划在年底前迁上去。

Maia 300 的计算芯粒用台积电 N2P 工艺,8 堆 HBM4,峰值带宽 18 TB/s,功耗 950 W,加强了 MXFP4 低精度格式的支持。整机柜 96 颗、功率 167 kW、27.6 TB HBM,柜级 token 吞吐最多是 Maia 200 的 7 倍。更多细节放到 11 月的 Ignite。

纳德拉在 X 上称这是“我们在自研芯片上最大的一次押注”。这意味着微软自家产品和它代跑的 OpenAI 模型,在推理这一侧会越来越少依赖英伟达。MXFP4 这类低精度格式在硬件侧普及开来也值得留意,它决定了以后部署时量化到哪一档才是原生支持的。

Microsoft →

HF 热榜上的 Iris-3B:不用 VAE、直接画像素的 30 亿参数生图模型,微调后还能估深度、修图

speridlabs 开源 Iris-3B,直接输出像素不经 VAE,另附 4 步 Turbo 版,H100 上约 0.7 秒一张。

开源模型图像生成Hugging Face

展开

主流生图模型都在压缩过的潜空间里去噪,再交给单独的解码器还原成图。Iris-3B 跳过这一步,网络本身输出每一个像素,作者的理由是潜空间有损、偏向纹理,细节会在那一步丢掉。文本编码器用 Qwen3-VL-4B-Instruct,默认 CFG 3、100 步,GenEval 0.798,DPG-Bench 86.52。文生图权重约 12 GB,需要带 CUDA 的英伟达显卡。

更有意思的是作者把它当视觉基础模型来用:同一个主干不改结构,分别微调出单目深度估计和图像修复、超分,都是空提示词一次前向,不需要文本编码器,算是 DINOv2 这类表征模型之外的另一条路。Turbo 版用 Trajectory Distribution Matching 做无数据蒸馏,把 CFG 训进权重,GenEval 反而略高(0.820),但长文字渲染和不同种子间的多样性变差。仓库 10 月 5 日建立,在官方 Turbo 之前,社区已经先做出一个 4 步的 DMD2 LoRA,只有 460 MB,作者在说明里专门致了谢。

Hugging Face →