MoE 推理在消费级硬件上卡住的从来不是算力而是字节数。稀疏激活省的是每 token 的计算量，要搬进内存的权重一点没少，35B 模型哪怕 4-bit 也有 19.5 GB。直接把专家放到 SSD 又救不了场，因为第 N+1 层要读哪些专家，得等第 N 层算完才知道，读盘根本来不及提前发起。

Edge0 的破法是训一个 prerouter，提前一个 token 预测下一层的路由，而且预测结果直接当成路由用，所以调进来的专家集合就等于真正被路由到的集合，不存在猜错要回退、要丢弃。int4 掉的精度用一个不合并的 recover-LoRA 蒸馏补回来，五个公开基准平均只比 fp16 base 低 3.9 分（AIME 2026 86.6 对 92.7，HumanEval 90.9 对 95.1）。

实测机器是 24 GB 的 Mac mini M4 Pro，解码 14.9 到 17.7 tok/s，预填充 140 tok/s，峰值活跃内存 2.9 GiB。后端目前只有 MLX，也就是只支持 Apple Silicon；作者自己标明这是 preview，agent 能力（工具调用、多步规划）还很弱。方法那一篇在 arXiv:2609.18063。

Hugging Face →

这是广告形态的一次换轨。搜索广告卖的是一次点击，把人送到落地页就算交付完成；Sponsored Agent 卖的是一整段对话，用户可以追问、说清自己在意什么，真想下单了再点链接去网站。转化漏斗被整个搬进了模型的上下文里。

同一批还放出几件配套的东西：在 ChatGPT Work 里写提示词直接生成广告、Ads Manager 加 AI 创意工具、ChatGPT 接进 HubSpot 和 Shopify。Wayfair 和 Angi 已确认在首批试点名单里。

对做模型的人，值得留意的是另一面：广告主 agent 和 ChatGPT 自己的回答被刻意做成两段隔离的会话。这实际上是在给“模型的中立回答”和“付费内容”划界，而这条界怎么划、由谁来判，接下来大概会成为监管盯着看的地方。

PYMNTS →

合并的理由说得很朴素：Anthropic 说用户常常搞不清一个任务该丢进哪个标签页。三个入口意味着每次提问前先做一道分类题，而这道题本该模型自己做。现在的做法是让 Claude 按请求的分量自动决定要不要调重型工作流，模式从三个减到两个，剩下 Claude Chat 和 Claude Code。

一起放出来的还有 Docs 和 Slides，文档和演示都能在 Claude 里建、改、分享，幻灯片可以导出成 PDF 或 PowerPoint，也支持在桌面端起个任务、用手机看进度。先给 Pro 和 Max，未来几周内在网页、桌面、移动端铺开，Free 和 Team 随后，企业版会提前至少 30 天通知管理员。

TechCrunch →

开源音乐模型一直有个尴尬：生成质量能听，但出来就是一段不可控的音频，不满意只能重掷骰子。YuE2 把生成拆成两段，先规划出一份符号化的乐谱，让人或者 agent 去改，再据此合成音频，等于给音乐生成加了一个可编辑的中间表示。仓库里同时放了 VAE、MERT 音频表征模型和 WildSongBench 数据集。

模型卡自称在 WildSongBench 上拿到最高分、质量对标 Suno v5 和 v6，这个说法得打个折扣看，毕竟是自评。他们同时开了一个盲听 arena 收真人偏好，那批数据出来才更有参考价值。许可证是 CC-BY-NC-4.0，商用不行。

Hugging Face →

这个毛病作者起名叫 Value Flattening。他们用多条蒙特卡洛续写估出真实的状态价值，发现它在相邻中间状态之间跳得很厉害，而 critic 给出的曲线是平的；状态空间越大越明显，在 FrozenLake 这种受控环境里也复现得出来。

卡在哪里，文章给了两条：critic 的损失函数里隐含着一个方差惩罚项，加上时间上相邻的状态梯度高度相似、反复更新纯属冗余，两股力一起把曲线压平。对策 SP³O 反直觉地简单，别每个 token 都监督，每条回复只挑三个彼此分得开的状态算 value loss。Qwen3-Base 上跨模型尺寸、跨多个评测集都稳定有提升。

对走 GRPO 这条线的人，这篇提供了一个值得琢磨的注脚：critic 未必是天生不可靠，标准的密集监督方式本身可能就在把它训平。

arXiv 2609.18708 →

原来卡在一个先有鸡还是先有蛋的地方：想用投机解码加速 rollout，得先有一个草稿头；而草稿头要么预训练要么热身，这笔开销发生在被加速的那个 RL run 之外，算总账未必划算。

作者的起点是两个观察：RL 训练时 rollout 的分布比预训练窄得多，而验证那一步本身就在源源不断产出跟这个分布对齐的监督信号。既然如此，草稿头根本不需要事先热身，RL 循环内部的这两个条件就够把它从零训出来。所有草稿头的更新都跟策略主干断开梯度，因此它是个能挂上去的模块，不改动原有 RL 框架。

三个起点都测了：Qwen3-4B（完全没有草稿头）rollout 快 2.13 倍、端到端 1.60 倍；MiMo-7B-SFT（草稿头弱）1.93 和 1.41；Qwen3.5-4B-Base（草稿头强）1.36 和 1.20。没有预训练草稿头的那种情况收益最大，而那正是自己搭一套 GRPO 训练时最常见的处境。

arXiv 2609.16648 →

似然位移（likelihood displacement）是直接偏好对齐里一个已知的怪现象：优化过程有时会把被偏好那条回答的似然也一起压下去，尤其当正负样本的似然差本来就很小的时候。梯度指向了一个和人的意图不一致的方向，而这类方法之所以流行，正是因为它省算力省显存，没人愿意为此退回完整的 RLHF。

ComPO 的处理方式是退一步，不去直接优化那个可微的偏好损失，而是把偏好对交给一个比较预言机，只从中提取方向信息做零阶优化。文章给了离线版在光滑性、梯度稀疏、预言机与隐目标相容三个假设下的收敛保证；在线版保留同一套比较机制，用未标注的策略生成做相对参考策略的反向 KL 控制，并在局部覆盖和分布内成对奖励精度的条件下给出性能保证。

Mistral、Llama、Gemma-2、Qwen3、Gemma-3 上都比现有直接对齐方法好，长度控制后的胜率也涨，配的成对诊断指标能看出似然位移确实被压住了。

arXiv 2609.19144 →

在线策略蒸馏（OPD）现在是 LLM 后训练里挺常用的一招，但两种写法各有各的病：token 级监督稳定，代价是每一步只看眼前，学不到后续收益；序列级能捕捉未来的信用，方差却随视野长度涨上去。

作者先把两者统一到一个时序信用的视角下，指出实践中的 token 级 OPD 其实可以看成序列级反向 KL 梯度的一个时间近似。这层关系一讲清楚，中间地带就自然出现了，引入折扣因子 γ 调节监督往未来看多远，视野长短带来的方差被一个与视野无关的上界压住。

另外配了一个 reward-compatible bounded mixing 机制，把可验证的结果反馈和折扣后的 OPD 优势混在一起，让优化不再完全依赖教师模型的判断。数学和代码推理上，常规、师生规模不匹配、多教师三种设定都比已有 OPD 方法好。同时用蒸馏和 RLVR 的后训练流水线，可以把这篇当成缝合两种信号的一条具体路子。

arXiv 2609.16937 →

自主研究循环的老问题是：多开几个 agent，每个都从零开始，结果是重复搜索而不是更多发现。Agora 把研究记成一张只增不改的有向无环图存进 Git，结果、洞见、假设、验证、报告各是一个不可变 commit，父边说明它建立在什么之上。从图里导出的索引暴露出当前前沿、被冷落的分支和每条结论的验证状态，另有一条重多样性的选择规则，防止所有 worker 涌向当前领跑的那条路。

首次长跑的任务挺刁：给 141 个预训练捐赠模型，和一个 119.6M 参数、维度跟谁都对不上的 attention-SSM 混合体，要求不用训练数据也不做梯度更新，把目标模型初始化好。13 个 worker 发了 1703 条贡献，把评测从 3.39 bits per byte 推到 1.899，补上了与训练过的 GPT-2 124M 之间 62% 的差距。获胜方案的 145 个 commit 祖先跨了 15 个账号，165 次独立复现无一失败。

作者也把话说得很老实：中途有过一次人类介入，才把整个社群从单一文化里拉出来；到底共享研究状态能不能提高单位算力的发现效率，还需要一次对照实验才说得清。

arXiv 2609.18094 →

MCP 从一个连文档和数据库的协议，走到了连物理世界的开关。Google 点名 Antigravity、Claude、Hermes、OpenClaw 都能接，也就是说这一层不再绑死某一家的助手，智能家居的控制权第一次从厂商 App 里被抽出来，做成任何 agent 都能调的接口。能干的事包括跨房间读摄像头、查设备状态历史、用 Google Home 音箱发语音留言、拼自己的看板。

现实门槛不低：只对美国的 Google Home Premium Advanced 用户开放（每月 20 美元），限英文，还要自己起一个 Google Cloud 项目再授权。Google 加了限流和安全约束，开锁这类敏感动作直接禁掉，并且明说 agent 可能产生意料之外甚至不想要的行为。

让模型去拧家里的恒温器，和让它改一个文件，风险模型完全不是一回事——出错不再只是回滚一个 commit。

9to5Google →