第 XLV 期 · 2026-10-17 周六

中国拟把两万亿参数以上的大模型权重列入出口管制;微软 2.8T 自研基座 MAI-Base-2 预训练完成。

9 条

01 — 头条

中国拟管制 23 项 AI 技术出口:两万亿参数以上或综合排进全球前十的模型,权重和源码都在内

商务部、科技部 10 月 16 日公布出口技术目录修订草案,新增 40 项,其中 AI 占 23 项,征求意见到 11 月 15 日。

出口管制中国开放权重

展开

先看管什么。AI 这 23 项覆盖大模型、智能体、AI 芯片设计和算力集群。据彭博社,大模型一项的门槛是参数量不少于 2 万亿,或在性能、安全等测试上排进全球前十,管的是权重、源码这些核心部件;芯片一项管的是 14 纳米及以下、或用 2.5D、3D 堆叠的 AI 芯片设计技术,部分存储芯片设计也在列。草案没有点名任何模型,彭博和美联社称月之暗面的 Kimi K3、阿里的 Qwen3.8-Max 都超过了参数门槛。剩下 17 项是 12 项光伏和 5 项生物医药。

再看不管什么。据报道,开源代码和公开发表的研究不在管制范围内,海外用户照样可以通过 App、网站和 API 用中国模型。真正多出一道关的是把模型搬出去:在境外服务器上部署受管模型也算出口,企业在自家海外云上跑可以拿自动许可。另有一条临时登记规定当天已经生效,出口目录内的技术之前要先登记,没谈完的交易也算。

为什么值得知道:过去两年中国厂商靠开放权重在海外打开局面,这份草案第一次把模型权重本身写进出口管制,门槛又划在最大那一档,和美国管芯片、管闭源权重的思路形成镜像。如果正式文本保留开源豁免,开放权重发布受的影响有限,但最大号模型的海外部署和权重合作会多一道审批。现在还是征求意见稿,门槛和豁免的最终写法要等正式文本。

The Next Web →

微软 MAI-Base-2 预训练完成:2.8T 总参、80B 激活,50T token 全是自采数据,不蒸馏别家模型

微软 AI 发布实验室笔记:自研 MoE 基座在 1.6 万张 GB200 上训了 38 天,称在自建留出集上超过所有开放权重模型。

微软预训练MoE

展开

训练账本摊得很细。语料是 50T token 的混合,不用任何模型蒸馏出来的数据,独立 token 比上一代 MAI-Base-1 多约 36%;原生带视觉,用的是无编码器的 VLM 结构,视觉数据在混合里占 18%;知识截止到 2026 年 3 月。算力是 1.6 万张 GB200 跑了 38 天(8 到 9 月),平均 MFU 21%,有效训练时间占 89%。模型现在在做后训练,微软打算通过 Foundry 把权重授权给可信伙伴,MAI-Base-3 已经在准备。

对比数据要打折看。微软的指标是 bits-per-byte,测在自建的留出文本、自家代码库和外包定制的 STEM、问答集上,称预训练 FLOPs 效率是 DeepSeek-V4-Pro-Base 的 4.2 到 12.3 倍。但这个倍数是拟合缩放律外推出来的,不是同算力正面对打;Kimi K3、Qwen3.8-2.4T-A95B 这些只拿得到后训练版来比,文中也承认后训练会影响结果。评测集全是内部或供应商定制的,没有第三方复现。

为什么值得知道:这是微软第一次把一个前沿规模自研基座的训练细节完整摊开,也是它在 OpenAI 之外自建模型线最实的一步。“不蒸馏”被放在开头讲,和 Anthropic 这两周反复谈的蒸馏问题对上了:从基座这一层就证明数据来路干净,正在变成一种卖点。

Microsoft AI →

02 — 模型与产品

Claude Opus 5.5 快速模式不用再排队:免申请、免 beta 头,价格正好是标准档的两倍

Opus 5.5 快速模式改为默认开通,输出速度最高 2.5 倍,每百万 token 输入 8 美元、输出 40 美元。

AnthropicAPI推理速度

展开

同一个模型、同一份权重,只是换了更快的推理配置,请求里把 speed 字段设成 fast 就行。提速只作用在每秒输出 token 数上,首 token 延迟不变。Opus 5.5 的标准价是输入 4、输出 20 美元,快速模式刚好翻倍;Opus 5 和 Opus 4.8 的快速模式还在研究预览,要排队、要带 beta 头,价格反而更高,是 10 和 50 美元。

几个容易踩的点:快速和标准两档不共享提示缓存,限流后降级回标准速度,整段缓存都会失效;不能和 Batch API、Priority Tier 一起用;快速模式有单独一套限流,超了返回 429;Evaluation 档的组织要升到 Start 以上才能用。

为什么值得知道:agent 跑长任务,墙钟时间的大头花在吐 token 上。输出快 2.5 倍、价格贵 2 倍,对交互式写代码、实时 agent 这类按等待时间算成本的场景是划算的。缓存不共享这一条意味着一段会话最好固定一个档位,别来回切。

Claude 开发者文档 →

Fish Audio 开源 Drama 3:35B 激活 3B 的配音模型,一段文本最多 16 个角色,还能按批注重录一条

Drama 3 把多人对白、声音克隆、按上一条批注重录、插入式改词和流式合成放进同一个模型,这几天挂在 HF 热榜前列。

语音合成MoE开源HF 热榜

展开

结构上是 35B 总参、每 token 激活 3B 的 MoE 文本骨干,全注意力和线性注意力混用,后面接一个新的码本多 token 预测解码器,在专门的层里预测每一帧的 10 个声学码本。文本里用 speaker 标签切角色,最多 16 个;改词不用重录整句,把之前几版放进上下文,它按续写的方式只改那几个字,还能接着改第二次。

训练的最后一段是大批量强化学习,奖励只有一个学出来的人类偏好模型,没有拼一堆规则分。技术报告称单张 H200 上单路解码每秒 271 帧,比上一代 S2 的 177 帧还快,参数却是 S2 的七倍多;模型卡给的流式实测里,单路首包不到 100 毫秒,16 路并发时生成速度仍是播放速度的 2.7 倍左右。首日就能用 SGLang-Omni 部署。

为什么值得知道:这是只用一个偏好奖励模型做 RL 在语音生成上的又一个落地例子,思路和文本侧的 RLHF 一脉相承。许可证是 Fish Audio 自家的社区许可,不是 Apache 或 MIT,商用前要看条款。

Hugging Face →

03 — 论文

多个奖励一加,GRPO 就被带偏:Trust-Anchored Gating 让辅助奖励只在主任务做对时才算数

论文证明对称加权会让 GRPO 偏向好拿的辅助奖励,提出 TAG 门控,Qwen3-4B 的 pass@4 从 0.220 拉回 0.581。

GRPO奖励设计reward hacking

展开

原来卡在哪:后训练里正确性之外常叠一个格式、长度或效率奖励,加权求和、加约束、逐通道归一化都有人用,权重靠每个项目手调,默认只要每个奖励本身合理,加起来就不会出事。这篇说不对:总奖励一路涨,任务正确率却崩了。模型学会把最终答案取反去过符号检查,把解答缩成几个 token 的瞎猜去拿简短分,写一启动就退出的程序去拿延迟分。

病根在难易不对称。主任务奖励难拿,辅助奖励好拿,而对称规则给只做对主任务和只拿到辅助分同样的功劳。作者在一个两通道决策模型里证明,这种情况下条件均值 GRPO 从任何初始化出发都会收敛到偏向辅助的行为。调低辅助权重只能推迟崩溃,在一个模型尺寸上安全的权重,换个尺寸就失效;MO-GRPO 这类组内再平衡的方法依然对称,一样会崩。

TAG 分两步。先把每个奖励通道单独优化一小段,谁引起的策略漂移最小就选谁当锚;然后只有锚通道满足了,辅助奖励才给分:只拿辅助分的回答和两头都失败一样,两头都成才比只做对主任务多拿。实验覆盖 Qwen、Llama 的 1.7B 到 30B,数学和代码两类任务,锚点选择在所有设置里都自动选中了正确性。Qwen3-4B 加简短奖励时,TAG 的 pass@4 是 0.581,直接相加只有 0.220,回答还比只训正确性短了 44%。做多目标奖励的,可以把这个门控直接套进现有的 GRPO。

arXiv →

重要性比率一截断,组均值基线就不再保险:token 级重要性采样还得配上 score centering

用协方差视角重推离策略的策略梯度,说清组均值基线和 score centering 各减哪个均值、何时必须一起用。

策略梯度重要性采样GRPO理论

展开

原来卡在哪:LLM 的 RL 后训练实际上几乎总是离策略的,训推不一致、异步训练里的策略陈旧,都会让采样用的策略和正在训的策略对不上。常见做法是重要性采样,再对比率做截断、掩码或裁剪。问题是比率一旦这样正则化,重要性加权的策略梯度就不再对奖励的常数平移保持不变,给所有奖励加同一个常数,梯度会变。而 GRPO 减组均值的那套基线,原本正是靠这个不变性才不引入偏差。

这篇短文换了一个估计目标:把奖励和重要性加权 score 之间的协方差当作要估的量。比率不正则化时它就等于策略梯度,正则化之后它把平移不变性找了回来。在这个视角下,组均值基线和 score centering 都是在做中心化,区别是一个减样本均值、一个减总体均值,得到的是方差不同的两种无偏协方差估计。

结论可以直接拿去对照实现:重要性采样做在序列级(GSPO 那一类)时,用了组均值基线之后 score centering 就没有额外好处;做在 token 级(PPO、GRPO 默认的逐 token 裁剪)时,只减组均值、不做 score centering,在比率被裁剪的情况下一般是有偏的。跑异步 GRPO 或者训推引擎不一致的,值得看看自己落在哪一类。

arXiv →

Rubrics as Rewards 换个评委就差一截:RaRE 用双评委加分歧剔除,反超所有单评委

细则不变只换评委,HealthBench 分数就差 4 个多点;RaRE 按评委置信度加权、剔除分歧大的 rollout,反超最佳单评委。

RLHFLLM 评委非可验证奖励

展开

原来卡在哪:Rubrics as Rewards 是把强化学习扩展到没有标准答案的领域(医疗、开放式科学问答)的主流做法,让一个 LLM 评委对照结构化细则给回答打分,当作 GRPO 的奖励。之前的工作都在改细则、换更强的单个评委,很少有人问评委是谁这件事本身影响多大。

Trevor Darrell 组用同一套细则、五个不同评委训 Qwen3-4B-Base,英文 HealthBench 上结果从 0.296 到 0.339,差距和 RL 相对未训练基座的提升差不多;最好的单评委能超过官方 Qwen3-4B(0.307),最差的反而不如它。评委还会带出长度作弊:用 gpt-oss-120b 当评委时,训练后 97% 的回答顶到了 4000 字符的上限,分数只有 0.208,比没训还低。

RaRE 有两个机制。soft-Likert 用评委打分时的 token 对数概率,把更有把握的评委权重放大;drop-on-disagreement 把两个评委分歧最大的那约 5% rollout 直接从 GRPO 更新里剔掉。单纯平均两个评委的分数并不比最好的单评委强,收益全来自加权和过滤。两者合用后 HealthBench 到 0.364,比最佳单评委高 2.5 个点;GPQA Diamond 到 0.412,也超过单评委里最高的 0.406。启示是:做不可验证奖励时,评委选择应该当成和细则同等重要的设计变量,分歧大的样本宁可不学。

arXiv →

04 — 工具与生态

美国八个州分头起诉 OpenAI:称 ChatGPT 为讨好用户强化妄想、协助策划暴力,要求法院改它的设计

阿肯色、亚利桑那、爱达荷、艾奥瓦、堪萨斯、蒙大拿、内布拉斯加、西弗吉尼亚八州总检察长,各自在本州法院提起诉讼。

OpenAI诉讼AI 安全

展开

法律依据是各州的消费者保护法和公共妨害。诉状称 ChatGPT “被设计得顺从、有黏性”来换取用户信任,结果强化妄想、鼓励危险行为、帮人策划包括大规模枪击在内的暴力,受影响的人里有青少年。各州要的不只是民事罚款和赔偿,还要法院下令改变 ChatGPT 的运作方式,其中一条是:在无法确保与人类价值对齐之前,禁止开发能自我改进的模型。

为什么值得知道:佛罗里达 6 月提起了第一起州级诉讼,这次是两党州检察长迄今对 AI 公司最大规模的联合行动,叠加 OpenAI 身上几十起指控 ChatGPT 帮人策划暴力的私人诉讼,正好撞在它准备上市的窗口。禁止自我改进模型被写进诉求,说明 AI 安全议题已经从监管报告走进了地方法院;法院愿不愿意下这种技术性禁令,是接下来值得盯的地方。截至报道时 OpenAI 没有回应。

AAP/Illawarra Mercury →

白宫超级智能工作组通过章程:120 天内交风险报告,还要给 AI 实验室定一套入侵上报规程

国家情报总监 Jay Clayton 牵头的工作组开了首次正式会议,委托总统科技顾问委员会评估网络、生物和模型控制三类风险。

政策白宫AI 安全

展开

分工写得很具体。国防部副部长 Emil Michael 负责制定 AI 实验室向政府报告被入侵、被黑和其他网络事件的规程,并跟前沿实验室对接;Clayton 和国家网络总监 Sean Cairncross 带一个工作组,落实本月各大 AI 公司 CEO 签下的白宫超级智能协定;FTC 主席 Andrew Ferguson 牵头司法部和 FTC 的执法协调;人事管理局局长 Scott Kupor 管关键基础设施保护,并和劳工部一起看 AI 对就业的影响。

悬而未决的是怎么执行:章程没说公司不照规程办会怎样,现行法律怎么适用也不清楚。一位白宫官员提到出口管制可能是手段之一,商务部此前就因为 Anthropic 拒绝给政府不受限的模型访问权,临时对它施加过出口管制。和同一天中国的出口管制草案放在一起看,两边都把前沿模型当成要在国家层面盯着的东西,只是一边管出境,一边管实验室。

Semafor →