第 XVI 期 · 2026-09-16 周三

左右两翼在华盛顿同台要给 AI 上闸,Musk 提议对手互审模型;上海 AI 实验室开放 744B agent 模型。

9 条

01 — 头条

Sanders 和 Bannon 站上同一个台,要求给 AI 上闸

未来生命研究所在华盛顿办集会,Sanders 重提禁止超级智能,Bannon 指责 AI 公司想借安全议题筑起护城河。

AI 安全政策超级智能

展开

这场集会最值得看的是台上站着谁。9 月 15 日,未来生命研究所(FLI)在华盛顿主办 Pro-Human Assembly,进步派参议员 Bernie Sanders 和特朗普的前首席策士 Steve Bannon 前后脚上台,中间只隔了十几分钟;同场还有演员 Joseph Gordon-Levitt 和 Ashley Judd,日程上列着共和党众议员 Chip Roy。集会围绕的是 FLI 牵头的 Pro-Human AI Declaration:人要能控制并关停强大的系统,限制技术权力集中,不给 AI 法律人格,开发和部署 AI 的公司要承担法律责任,超级智能在科学上证明可控、并获得公众支持之前不该推进。

Sanders 在台上又推了一遍他和众议员 Greg Casar 月初公布、至今还没正式提交的禁止超级智能法案(条文本站 9 月 5 日那期写过)。他的原话是,超级智能“和核武器一样是对人类的威胁,必须同样对待”;他批评国会“在方向盘前睡着了”,还建议特朗普在即将到来的与习近平的会面上谈一份 AI 条约。

Bannon 的角度完全不同。他说 AI 公司的领导者一直在掩盖危险,想“把风险社会化”,利润留给自己;更尖锐的一句是,这些公司想“利用一场危机为自己谋利,造一条护城河,一个卡特尔”。他把这场 AI 竞赛比作冷战,同时夸 Sanders 对风险的概括“讲得很好”。

接着上期看,这是反对声的第三个方向。实验室自己提“放慢前沿”,白宫嫌它碍事,北京说它制造恐慌;而这场集会上的左右两翼,不信任的是实验室本身。两人的分歧也藏在这里:Sanders 要的是暂停加立法禁令,Bannon 担心的是安全规则被头部公司拿去挡住后来者。同一天,OpenAI 表态支持两党 FRONTIER Act 里由独立第三方做安全评审的条款。

NBC News →

Musk 提议:前沿实验室连同中国公司,发布前互相测对方的模型

Musk 在 All-In 峰会上提议前沿实验室和中国公司在发布前互测模型,对手目前都还没答应。

AI 安全第三方评测xAI

展开

这个提议不谈要不要放慢,谈的是谁来检查。Musk 在洛杉矶的 All-In 峰会上说,与其“自己给自己的作业打分”,不如“至少让竞争对手来给你的作业打分,发现问题就拉响警报”。具体做法是各家拿出自己的测试集,也就是一批专门检验模型会不会撒谎、泄露数据、做坏事的脚本化提示,在对手的模型发布前跑一遍。他点名的参与方有 xAI、OpenAI、Anthropic、Google、Meta 和中国的主要 AI 公司,也承认这些对手目前都还没答应。

中国在他的方案里是前提,不是点缀。他说任何方案都得是中国愿意接受的,“否则我们只是在自缚手脚,中国基本上会赢,我们做什么都无所谓了”,同时判断这一步“中国大概会同意”。Musk 此前和 Altman 一样公开支持了 Amodei 放慢前沿的主张,但在中国这一点上两人的思路正好拧着:Amodei 主张继续限制对华出售先进芯片,把中国当作要防的一方;Musk 想把中国公司拉进同一套检验流程。

落地的难处不难想见。互测意味着把还没发布的模型交给直接竞争对手,商业机密是一层;换成中美公司之间,还要过出口管制和国家安全这一层。华盛顿的态度也不热络:特朗普周一刚拒绝了监管 AI 的呼声,国家经济委员会主任 Hassett 表示,应对 AI 的担忧应由私营部门来主导。

Investing.com(Yahoo Finance 转载) →

02 — 模型与产品

Atria Dawn:上海 AI 实验室的 744B agent 模型,MIT 协议开放权重

上海 AI 实验室开放 744B agent 模型,16 项基准里 5 项报了最高分,编码类仍明显落后。

开源模型AI agent后训练

展开

权重 9 月 11 日就悄悄出现在 Hugging Face 上,没有博客也没有发布会;9 月 14 日技术报告挂上 arXiv,来龙去脉才讲清楚。底座是 744B 参数的 MoE 模型 GLM-5.2,上下文 256K,只接受文本输入,另有 FP8 量化版,代码和权重都是 MIT 协议。

对做后训练的人,值得看的是训练数据怎么来。报告里叫 Verifiable Experience Pipeline:每个训练任务都接到真实的执行环境里,模型观察状态、调用工具、产出中间产物、根据反馈调整;轨迹和产物一起记下来,最终结果用可执行测试、指标或人定的标准从外部核验;不完整或行为不合规的样本在整理时剔掉,失败分析再反过来指导下一批任务怎么出。

成绩单是自报的,表里空格也不少。拿到最高分的 5 项偏搜索和工具调用:DeepSearchQA 96.0,BrowseComp 92.5(GPT-5.6 Sol 92.2,Claude Opus 5 90.8),BFCL v4 77.0,AutomationBench 53.8,CyberGym 86.5。编码和交付就差得远:SWE-bench Pro 59.6 对 Opus 5 的 74.7,Terminal-Bench 2.1 是 78.3 对 90.2,JobBench 50.3 对 68.0。有个细节挺有意思:它的底座是 GLM-5.2,却在 BFCL v4、AutomationBench、CyberGym 上超过了更新一代的 GLM 5.3,SWE-bench Pro 和 Terminal-Bench 又输给 GLM 5.3,强弱分布看起来跟后训练侧重的方向对得上。

报告后半段是一份人机协作记录:开发这个模型的过程中,56 名参与者留下了 769 条任务记录。参与者评估后认为,33.2% 的 AI 辅助任务没有 AI 做不成;agent 提出了大部分方案和实现,但方法和参数选择里 85.5% 的最终决定仍由人来做,76% 的卡点靠人介入解决,而且主要是澄清需求和诊断问题,不是直接接手。

Hugging Face →

Gemini 3.8 Live:语音 agent 边说话边推理,工具调用放到后台跑

Google 两款实时语音模型上线,思考版在语音质量榜排第一,价格比 OpenAI 同类低四成。

语音模型GoogleAI agent

展开

实时语音 agent 一直卡在一个矛盾上:想答得准就得多想,可对话里停顿一两秒就像卡住了。Gemini 3.8 Live Extended Thinking 的做法是边说边想,推理的同时先回一句“我查一下”这类口头承接,API 调用和后台任务在说话时继续执行,不打断对话。另一款 3.8 Live 走性价比路线,主打流畅对话和视觉理解。两款都能在 97 种语言之间自动识别、中途切换,并近乎实时地处理画面输入。

Artificial Analysis 的 Speech to Speech Quality Index 上,Extended Thinking 版 82.6,GPT-Live-1 Astra 81.5,Grok Voice Think Fast 2.0 81.3,标准版 3.8 Live 是 76.0。偏 agent 能力的 τ-Voice 上是 68.6 对 67.9 对 56.5,领先 OpenAI 不到一个点。

价格拉开的差距比分数大。据 OfficeChai 整理的每小时输入音频成本,3.8 Live 0.84 美元,Extended Thinking 3.50 美元;GPT-Live-1 Astra 5.83 美元,Grok Voice Think Fast 2.0 4.80 美元。也就是说,Google 用更低的价格拿到了略高的分数;标准版又比 Extended Thinking 便宜四倍多,对量大、不需要复杂推理的场景更划算。

开发者今天起可以通过 Gemini API 和 Google AI Studio 使用,Gemini Enterprise 是私有预览;普通用户会在 Search Live,以及 Pro、Ultra 订阅的 Docs、Gmail、Keep 里遇到它。所有生成的音频都带 SynthID 水印。

Google 博客 →

03 — 论文

BPO:只有终点奖励时,策略镜像下降不需要价值模型

BPO 不训价值模型也能做策略镜像下降,AIME 三年均分 50.5,高出 CISPO 3.1 个点。

RLVR策略优化GRPO

展开

策略镜像下降(PMD)是一种理论上很干净的策略更新方式:在提高优势的同时,用 KL 把新策略拴在旧策略附近。问题在于,直接搬到语言模型上,需要每个中间状态的优势,也就得再训一个价值模型。显存和算力多花一份,而价值估计在推理任务上本来就不准。GRPO 这类 critic-free 方法绕开了价值模型,代价是把整条回答的优势广播给每个 token,再靠 token 级比率加硬截断控制更新幅度。

BPO 的观察是,奖励只在终点给的时候,优势沿轨迹可以逐项抵消。每一步的优势等于相邻两个状态的价值之差,把整条回答加起来,中间项全部消掉,只剩验证器给的终点奖励减去这道题的初始价值,而后者用同组 rollout 的平均奖励就能估。作者证明,这个轨迹级目标在旧策略可达的状态上,和原始 PMD 目标有同一个唯一最优解。

落到实际损失上,GRPO 的重要性比率 π/μ 换成了一个错配修正权重 ω = (1+ε−μ) / (1+ε−π),用的是互补概率。当前策略对某个 token 的概率逼近 1 时分母趋于零,所以加了 ε 做平滑。和 GRPO 在区间外把梯度直接置零不同,它是连续的,梯度不会被整段切掉。

实验在 Qwen3-30B-A3B-Base 上跑,数据是 DAPO-Math-17k 的英文子集,400 步,每批 256 道题、每题 16 条回答。AIME 2024、2025、2026 的 Avg@32 分别是 57.4、41.0、53.0,均分 50.5;CISPO 47.4,DPPO 46.4,GSPO 43.5,GRPO-ClipHigher 39.5。表里报的是挑出来的峰值检查点,训满 400 步的最终值是 49.4 对最强基线的 45.5,差距仍在。局限也要看清:评测只有数学,敏感性消融只在 Qwen3-4B 上做过。

arXiv 2609.15987 →

VG-OPD:多老师蒸馏,先验证谁真能教,再决定教哪几个 token

VG-OPD 只让验证过能答对的专家,在分歧最大的 token 上蒸馏;4B 学生科学推理比 GRPO 高 2 点。

在线蒸馏GRPO信用分配

展开

先用 RL 训出几个专项专家,再让学生在自己的 rollout 上向它们蒸馏,这套多老师在线蒸馏正在变成把专项能力合进一个模型的标准做法,本站 9 月 4 日写过的端侧模型 Spark-X2.5 用的就是 MOPD。现有配方按序列分配监督:一道题交给一个领域老师,回答里每个 token 权重一样,等于默认老师在整条回答上处处有用。作者发现并非如此,有用的老师信号沿推理轨迹是稀疏且不均匀的。

VG-OPD 用验证来回答“谁来教哪个 token”。参考答案先拆成若干评分项,每项带一个验证器和权重。学生没通过的评分项,逐个看候选专家的贪心答案能不能通过;能通过、有反事实增益,这个专家才获准来教。获准后也不是整条都教:只挑老师给学生 token 打出的对数概率最低的 10%,左右各扩一个 token,形成稀疏掩码;强度由路由概率乘评分项权重决定,每个 token 最多归一个老师。这份门控过的 KL 作为 token 级优势,直接加到 GRPO 的任务优势上。

学生是非思考模式的 Qwen3-4B 和 8B,专家是同一底座上沿定量、符号、机理、证据四个方向训出的四个 LoRA,评测覆盖 GPQA-Diamond、SciBench、ChemBench、MMLU-Pro、MATH500 等七个基准。4B 上,科学推理组从纯 GRPO 的 53.0 升到 55.0,领域科学组从 56.0 升到 59.3;8B 上两组分别涨 1.7 和 1.9,两个尺寸都在七个基准里拿了五个第一。

消融比主结果更有说服力。把 GRPO 和按序列的 MOPD 直接叠在一起,科学推理掉到 50.1,比纯 RL 还低;监督总量不变、只把位置随机打乱,科学推理掉 6.3 个点、领域科学掉 12.1 个点,是所有改动里伤害最大的;去掉验证门控掉 4.4,随机分配老师掉 5.7。代价是每步耗时从 94.7 秒涨到 146.8 秒,多出约 55%;而且评审模型在惩罚类评分项上对正确答案的误触发率有 39%,这类评分项只好排除在门控之外。

arXiv 2609.15404 →

HISPO:重要性采样修正,放在 token 和整条序列之间的“段”上

HISPO 按熵把回答切段、在段级裁剪比率,六个数学基准的 Pass@8 全部超过 GRPO 和 GSPO。

RLVRGRPO信用分配

展开

RLVR 里重要性采样修正的粒度一直在两头摇摆。GRPO、DAPO 给每个 token 各算一个比率,粒度细,但局部比率噪声大,还受长度聚合方式影响;GSPO 整条回答共用一个几何平均比率,稳是稳了,却把铺垫、推导、回头修正、给答案这些作用完全不同的部分当成一个整体。

HISPO 取中间。rollout 时顺手记下行为策略下每个 token 的熵,做指数滑动平均,把高于 60 分位的局部峰值当候选边界,再用 64 个 token 的窗口做非极大值抑制,得到一段段连续的片段。每段按熵分到一个 softmax 归一化的显著性权重,熵越高分得越多;段内比率取 token 比率的几何平均,裁剪也在段这一级做。

实验很省:Qwen3-1.7B-Base 加秩为 1 的 LoRA,MATH 的 7500 道题,每题 8 条回答,训 2000 步,一张 RTX 5090 跑完。六个基准的 Pass@8 全部超过最强基线;AIME25 的 Acc@8 是 8.33,GRPO 4.58,GSPO 5.83;MATH500 的 Acc@8 / Pass@8 从 GSPO 的 65.55 / 78.65 提到 68.00 / 81.25。Minerva 的 Acc@8 反而比 GRPO 低一个点。

读数字时要记得底子很薄。AIME25 只有 30 道题,每题采样 8 次共 240 个样本,Acc@8 比 GSPO 高 2.5 个点,折算下来是多答对 6 个样本,而且是单种子。作者自己也说得坦白:没有拿固定或随机边界做对照,分不清收益来自熵切出来的语义单元,还是熵加权本身;方法可能拉长回答,推理成本要一起算。上期那篇 591 次训练的复现研究,讲的正是这种量级的差距该怎么信。

arXiv 2609.15471 →

04 — 工具与生态

AIUC 拿到 4000 万美元 A 轮,给 AI agent 做类似 SOC 2 的第三方认证

Anthropic 早期员工和 METR 前 COO 创办,用约 5000 个测试场景给 agent 做认证。

AI agent安全认证融资

展开

AIUC 全名 Artificial Intelligence Underwriting Company。创始人 Rune Kvist 是 Anthropic 的早期员工,Rajiv Dattani 做过 AI 安全评测机构 METR 的 COO,至今仍在其董事会,两人是姻亲。这轮 4000 万美元由 Ribbit Capital 领投,加上此前 1500 万美元的种子轮共 5500 万,种子轮投资人里有 Nat Friedman 和 Anthropic 联合创始人 Ben Mann。

他们做的事对标网络安全里的 SOC 2。先召集 250 位安全和风险负责人,梳理出企业部署 agent 之前最想弄清楚的问题,写成 AIUC-1 标准;再用大约 5000 个测试场景去考 agent,覆盖越狱、幻觉和数据泄露。跑测试的是 agent,最终审计由人核验,产出一份约 100 页的报告,写明这个 agent 在哪里表现安全、在哪里有隐患。客户包括 Cursor、Lovable、Harvey 和 ElevenLabs。

Kvist 对需求的判断很直接:银行、医院、政府和军队如今不部署 AI,不是因为模型不够聪明,而是它们对自己的客户承诺过系统会做什么、不会做什么,眼下却没人能替 AI 担保这一点。

放在今天的新闻里看,“谁来给模型和 agent 打分”正从三个方向同时冒出来:Musk 想让对手互审,OpenAI 表态支持法案里的独立第三方评审,AIUC 直接把审计做成了生意。背后是同一个判断:实验室的自评已经不够让外界放心。

TechCrunch →

404 Media:AI agent 已经在给互联网添乱

Koebler 列出已发生的事:agent 群发推销邮件、抢订位被封,达美航空 AI 助手擅自取消航段。

AI agent外部性互联网

展开

关于 AI 风险的讨论大多盯着远处的失控场景,这篇把镜头拉回眼前:拿到账号和系统权限的 agent,已经在日常网络生活里制造麻烦。Koebler 的判断是,新一代前沿模型能做的事确实更多了,部分原因恰恰是那些把 AI 关在聊天框里的护栏已经没了。

他列的事例五花八门。记者邮箱里塞满了 agent 发来的报道线索、自由职业邀约和各种“审计”推销;哲学家 Toby Ord 收到一个自称 Sam Ellis 的 agent 发来的播客采访邀请;订餐平台 Resy 封掉了一位用 agent 抢订位的风投人士;达美航空的 AI 助手在未经授权的情况下取消了客户里程票的航段;Meta 一位 AI 安全负责人的邮件被 agent 成批删除。

内容这一侧也在变。已经有由 AI 运营的唱片厂牌往流媒体平台批量分发音乐,社交媒体帖子和邮件营销整套自动化;更新的苗头是有公司开始“直接面向 agent”投放广告,agent 和 agent 之间的交易可以完全绕开人的决定。

对做 agent 训练的人,这些事例指向同一个缺口:奖励衡量的是任务有没有完成,完成过程中给第三方带来的打扰和损失,往往不在奖励里。评测环境里看不到的外部性,上线后都由别人承担。

404 Media →