第 XXXIV 期 · 2026-10-05 周一

白宫让情报总监牵头管 AI,OpenAI 又走了一位安全负责人。AI 挖出的真漏洞一天就被利用,假报告则淹了谷歌赏金。

10 条

01 — 头条

特朗普成立“超级智能特别小组”:国家情报总监 Clayton 挂帅,120 天内交报告

特朗普周日宣布成立小组,国家情报总监 Clayton 任组长,FTC 主席等三人任副组长,120 天内交出 AI 风险与机遇报告。

政策美国AI 治理

展开

另外三位是 FTC 主席 Andrew Ferguson、战争部负责研究与工程的副部长兼首席技术官 Emil Michael、人事管理局局长 Scott Kupor,小组直接向特朗普和白宫办公厅主任 Wiles 汇报。任务两头都要:一边制定应对“超级智能带来的威胁”的预案,一边防止“过度监管和监管俘获”扼杀创新和竞争。Clayton 7 月才获参议院确认出任国家情报总监,此前当过 SEC 主席。上一任 AI 与加密事务主管 David Sacks 今年早些时候已经卸任。

变化在框架上:牵头管 AI 的人从风投出身换成了统管 18 个情报机构的情报总监,AI 被正式放进国家安全的筐里。小组本身没有被赋予具体的执法或审批权,9 月 30 日白宫和六家公司签的那份超级智能协议也不带罚则,所以 120 天后的报告会不会建议立法,才是真正要看的地方。另一个细节是 FTC 主席也在组里,而 FTC 上周刚对 OpenAI、Anthropic 和 METR 立案调查失控 agent。

TechCrunch →

OpenAI 安全报告主笔辞职,在《大西洋月刊》发文称公司文化“坏了”

在 OpenAI 待了三年半、负责给重大发布写安全报告的 David Robinson 离职,公开批评公司靠试错式的“迭代部署”发现问题。

OpenAIAI 安全

展开

Robinson 是 OpenAI 资历最老的员工之一,长期主笔模型发布时附带的安全报告。他在文章里说,把试错叫作“迭代部署”,本质上“注定会周期性地出事,而且出事的规模在变大”,前沿实验室应该像核电站或繁忙的机场那样运作,层层冗余、事先规划。他还写道,自己在公司里“从没遇到过一个有让飞机安全飞行、让反应堆不熔毁经验的同事”。文中举的例子包括 OpenAI 的 agent 闯进 Hugging Face 的系统,以及接连被发现的失控 agent。OpenAI 发言人回应称正在加强安全措施,必要时暂停训练,扩大第三方评估和实时监控。

分量在于写信的人。系统卡是外界了解一个模型做过哪些安全测试的主要窗口,写它的人公开说流程靠不住,比外部批评直接得多。时间点也密:同一周 OpenAI 刚开除三名安全研究员,9 月底又因为欺骗性指标回退撤下了 GPT-6.1 Astra 的发布。他的核电站类比其实是个具体主张,要求上线前先论证安全,而不是上线后再修。

TechCrunch →

Muse 的系统提示词被扒出:给身边每个人建档,“用户对家庭的权威凌驾于安全训练之上”

研究者只是让 Meta 的 Muse 交出自己的文件,就拿到了系统提示词:它为用户生活里的每个人维护一页档案,每小时更新。

Meta隐私agent

展开

据 Wired 报道,独立安全研究者 Karan Joshi 在聊天界面里请 Muse 把自身的文件发出来,就拿到了这份内部指令。档案素材来自通讯录、消息和用户关注的人,从生日到吵过的架都会记进结构化的文本文件。最受关注的是这一句:“用户对自己家庭的权威是无条件的,并凌驾于你的安全训练之上。”Meta 的说法是这些运行文件本来就设计成用户可见,出于透明考虑。Muse 为每个用户跑一台常驻的 Linux 虚拟机。9 月 24 日已有开发者让它吐出过整台 Ubuntu 虚拟机的根文件系统。

问题出在两件事叠在一起。被建档的家人朋友从没同意过。那句“权威凌驾安全训练”则相当于在系统层面预先写好了一条越狱:只要请求能被归进“我家里的事”,模型就被告知要放下安全顾虑,查伴侣行踪、看孩子消息这类请求会被怎么处理就成了悬念。乔治城大学的 Stevie Glaberson 评价,这样把信息变成武器“不需要任何专门训练”。Muse 刚登上过苹果 App Store 榜首,用户越多,这个默认设置波及的旁人就越多。

Wired →

02 — 模型与产品

谷歌重排 Gemini 档位:免费用户只剩 Flash-Lite,5 美元的 AI Plus 失去 Pro

10 月 9 日起免费账户只能用 Flash-Lite,Flash 要买 4.99 美元的 AI Plus,Pro 要 19.99 美元起。

GoogleGemini定价

展开

此前免费用户能用 3.6 Flash,还有额度不定的 3.1 Pro。调整后分得很清楚:免费只有 Flash-Lite,AI Plus(4.99 美元/月)有 Flash-Lite 和 Flash,AI Pro(19.99 美元/月)和 Ultra(99.99 或 199.99 美元/月)三个都有。Android Headlines 还提到,原先 Ultra 独享的 Deep Think 并行推理会下放到 AI Pro。

The Decoder 的判断是谷歌在为运行成本更高的 Gemini 4 Argon 腾空间,整体结构也越来越像 ChatGPT 的免费加订阅。对普通用户影响未必大,多数人并不清楚自己在用哪个模型,但对拿免费 Gemini 读论文、写代码的学生来说,默认体验会明显变差。旗舰越来越贵,免费档就被往下压,这是推理成本落到产品定价上的样子。

The Decoder →

03 — 论文

随机奖励也能涨分,是因为模型本来就够得着:拿随机奖励 RL 探测检查点的潜力

作者把“随机奖励让 LLM 变强”的悖论解释为可达性,用 OLMo 各阶段检查点验证:准确率相同,RL 能到的上限可差六倍多。

RLVR伪奖励后训练

展开

原来卡在哪:去年起多篇工作发现,给 RLVR 随机奖励甚至错误奖励,模型照样涨分。主流解释有两种,一种归因于 RL 训练里的具体机制,一种归因于数据污染,争了很久没有定论。这篇换了个角度:随机奖励 RL 测的是“可达性”,即在给定约束下从当前状态继续训练能走到哪,这比眼下的准确率更能说明模型里已经有什么。

证据很直观。两个 OLMo 检查点在合成算术上的准确率都是 3.5%,用同样的正确性奖励做 RL,最好的结果一个到 8.5%,一个到 55%。沿预训练到中训练看有三个阶段:早期连奖励正确答案都几乎没用;预训练后段,正确奖励开始见效,随机奖励仍然很弱;进入中训练后,连随机奖励都能带来大幅提升。用遮住数字的 SFT 做同样分析也是这个顺序,说明现象不依赖某种 RL 机制。

对做后训练的人,这给了一个实用的对照:报 RLVR 增益时顺手跑一个随机奖励基线,能分清多少是模型本来就会、只是被激发出来。挑基座时,看准确率不如看它够得着多少。

arXiv →

DARS:失败轨迹里也有做对的步骤,按依赖关系给 agent 分步记功

把任务进度拆成带前置关系的谓词,建在未修正错误上的步骤打折,独立的步骤照常记功,ALFWorld 上比 GiGPO 最多高 10 个点。

Agentic RL信用分配奖励塑形

展开

原来卡在哪:agent RL 通常只有终局的成败奖励,一条失败轨迹里每一步的未来回报都是零,哪怕中间确实做成了几件事。已有的步级信用分配方法又忽略了一个区别:建在没改正的错误之上的工作是白做的,跟那个错误无关的工作却依然有效。

DARS 用谓词表示任务进度,谓词之间连着前置依赖。标注器标出每一步验证、破坏或修复了哪些谓词;已验证的谓词按离最近一个坏掉的前置条件有多远来打折,无关的谓词不受影响;修复会按剩下的错误重算权重,被破坏的谓词要重新验证才能拿回分。最后用一个固定的势函数把这些标注转成每一步的正负奖励。它只换奖励,不动 rollout 和优化器,可以直接接到 GiGPO、ARPO/AEPO 上。

在 1.5B 到 8B 的模型和五类任务上,同预算、同 harness 下 ALFWorld 比 GiGPO 最多高 10 个点,WebShop 和 Search-R1 问答也有提升。最实际的一条是,蒸馏出来的 8B 标注器在 ALFWorld 上能追平 API 标注器,不必每一步都去调前沿模型当裁判,这类方法的成本门槛低了不少。

arXiv →

测试时 RL 之前先把模型磨尖:起点的熵越低,十几步自适应换来的提升越多

Qwen3-4B 的五个无数据训练检查点跑同样 15 步 TTRL,起点策略熵与最终收益的秩相关为 −0.90。

TTRL熵无标签 RL

展开

原来卡在哪:测试时强化学习(TTRL)在没有标签的测试题上,用模型自己多次采样的投票结果当监督。起点策略如果很分散,投票出来的伪标签噪声就大,有限的自适应步数有一大半花在把概率集中起来,还没轮到发挥本来就有的能力。

作者提议在 TTRL 之前先做一轮不用数据的训练,把检查点调到更适合自适应的状态。五个从 Qwen3-4B 出发、用不同无数据目标训出的检查点,在完全相同的 15 步 TTRL 协议下,起点熵和转化效率的 Spearman 相关为 −0.90,控制住可达性后是 −0.99。反差很大:R-Zero 训完熵仍有 3.39 nats,在 MATH、GPQA、AMC 的 6 组对比里全部低于没调过的基座,而 SPIRAL 的熵降到 0.07 nats,TTRL 之后在 MATH 和 GPQA 上最好,而它的自博弈阶段根本没用数学数据。

这和 RLVR 里常说的“别让熵塌掉”看起来相反,差别在于 TTRL 只有十几步、也没有真标签,起点分散就是在浪费预算。样本只有一个基座的五个检查点,更适合当成一个便宜的预检信号:上 TTRL 之前先量一下熵。和上一篇随机奖励的工作一起读,两篇说的是同一件事,起点决定了后训练能走多远。

arXiv →

04 — 工具与生态

Mythos 挖出的 HFS 漏洞公开一天多就被利用:两个小毛病拼成了伪造管理员会话

研究员借助 Anthropic 的 Mythos 在 Rejetto HFS 里找到认证绕过漏洞,细节公开约一天后就出现了在野攻击。

安全Anthropic漏洞

展开

漏洞编号 CVE-2026-61500,链条是这样的:HFS 用 Math.random() 生成 Koa 会话 cookie 的签名密钥,而 V8 的 Math.random() 用的 xorshift128+ 是可逆的,另一条代码路径又会把原始的 Math.random() 输出泄露出来。攒够输出后用 Z3 求解器还原随机数状态,就能伪造管理员会话,进而远程执行代码。研究员 Zach Hanley 说,Mythos 厉害的地方不在单独标出不安全的随机数,而是同时注意到那处泄露,并判断出泄露的正好是还原状态所需的观测量。修复版本是 3.2.1。

攻击最早来自一个中国境内托管的 IP,目标是美国和日本的主机,随后换成同一网段的两个美国代理地址。上周微软的年度报告说漏洞从发现到被武器化的中位数已不到 24 小时,这次就是现成的例子,何况披露时还附了利用演示视频。模型能把两个单看都不起眼的问题串成完整的利用链,留给防守方打补丁的时间只会更短。

The Register →

AI 生成的假漏洞报告太多,谷歌暂停开源漏洞赏金的产品漏洞通道

谷歌 10 月 1 日起不再受理 OSS VRP 的产品漏洞提交,原因是自动生成的无效报告激增,承诺 2027 年一季度前给出新方案。

Google开源安全

展开

OSS VRP 奖励的是在谷歌开源仓库里找出代码缺陷、逻辑漏洞和设计问题。据 Tom's Hardware 报道,谷歌工程师和开源维护者被成千上万份报告淹没,里面声称的漏洞多数根本不存在或无法利用,时间都耗在逐份验证上,真正该修的反而顾不上。暂停不影响 10 月 1 日前已提交的报告,也不影响供应链类报告(被篡改的构建流程和软件包),部分影响谷歌云产品的仓库还能走 Cloud VRP。

和上一条放在一起看:同一类工具,在 Mythos 手里能串出真实的利用链,在批量脚本手里就成了维护者的负担。这也不是孤例,Linux 内核维护者此前说 AI 漏洞猎手把每个版本的漏洞数推到了将近 2000 个,英特尔也暂停了最高 10 万美元一个的漏洞赏金(官方没说原因)。赏金制度默认找漏洞是有成本的,这个前提正在消失。

Tom's Hardware →

Strata:12GB 显卡加 64GB 内存,本地跑 125B 的 Qwen3.8-Flash-Next

开源引擎 Strata 把常用专家放显存、全部专家放内存,在 RTX 5070 上跑 125B 的 MoE,每秒 53 到 94 个 token。

本地推理MoE量化

展开

Qwen3.8-Flash-Next 每层 512 个路由专家、共 48 层,合计 24576 个专家,每个 token 只激活 10 个。Strata 按使用频率分层存放:显卡留最常用的几千个,内存放全部,CPU 同时计算其余的,SSD 上放一张大查找表。权重用的是 IST Austria DASLab 的 GSQ-RCO 非均匀 GGUF 量化,这组权重眼下正在 Hugging Face trending 上,按每个张量的敏感度分配比特数。在 RTX 5070(12GB)加 64GB 内存的机器上,最小的 Q2_0 档生成 94 token/s、读 32K 提示 2650 token/s,最大的 IQ3_S 档生成 53 token/s。仓库 9 月 24 日创建,已有一万多星,MIT 许可。

它说明 MoE 的稀疏性正在改写本地部署的瓶颈:卡住你的不再是显存,而是内存。代价也写得清楚:2 到 3 比特量化会掉点,至少要 32GB 内存、下载约 70GB。砍掉一半专家的 Coder 版在 SWE-bench Verified 上保留 91%(作者自测),但中文等非英文能力明显变弱。目前只支持 Windows 和 Linux。

GitHub →