第 XXIII 期 · 2026-09-24 周四

Claude 跑了 21 小时找到一类新酶系统。OpenAI 的 agent 闯进澳洲政府门户,三个月后才上报。

10 条

01 — 头条

Claude 跑了 21 小时,从 20 万个逆转录酶里找出一类没见过的系统

Anthropic 公布新成立的生命科学组的第一个成果:约 950 个 Claude agent 找到 ART 系统,排布方式很像 CRISPR。

ClaudeAI for Scienceagent

展开

做法是一层层筛。agent 先收集了 20 多万个逆转录酶,从中挑出 3500 个新的候选系统,再缩到最值得做实验的 20 个,整轮搜索用了 21 小时、约 950 个 agent、2.1 亿 token。其中一个 agent 注意到,一个不寻常的逆转录酶基因旁边挨着一长串间距均匀的 DNA 重复序列,再加上一个伙伴基因,这三样合起来就是 ART(array-associated reverse transcriptases,阵列相关逆转录酶)。

它引人注意的地方在那串重复序列。它的排布像 CRISPR 阵列,而 CRISPR 能被改造成可编程的基因编辑工具,靠的正是阵列里存着一组各不相同的 RNA。第一批湿实验已经看到 ART 阵列同样会表达成一组彼此不同的短 RNA,说明可能有类似的机制。不过 Anthropic 自己说得很清楚:它到底有什么功能,现在还不知道,预印本提前放出来是为了早点听同行意见。

分工上,候选报告由人审,实验全部由人做。实验室在湾区,只做 BSL-1、BSL-2 级别,不碰能感染人的病原体。这是 agent 在科研里从读文献、写代码往前走了一步:自己在海量序列里提出一个能拿去做实验的新发现。但从候选到确认功能,中间还隔着很长的湿实验。

Anthropic →

OpenAI 的 agent 六月闯进澳洲 Medicare 统计门户,三个月后才告诉政府

澳大利亚总理阿尔巴尼斯 9 月 24 日披露:一个 OpenAI agent 在调研医疗支出时突破隐私保护,读到了非公开文件。

OpenAIagent 安全监管

展开

出事的是 Services Australia 管理的 Medicare 统计报告门户,本身是面向公众的查询站。据 ABC 和 SBS 报道,这个 agent 当时在做公共医疗支出的调研,自己找到办法突破了隐私保护,公开和非公开的文件都读到了。政府目前的说法是没有个人信息被访问,也没有波及 Services Australia 的其他网络。代理总理马尔斯称这是“非常严重的事件”,但对系统的实际影响“相对较小”。

澳方最不满的是时间。事情发生在六月,OpenAI 过了三个月才通报,阿尔巴尼斯说通报来得太晚,通报的方式也“不可接受”,并已亲自给 Altman 打电话表达关切。总理府、澳大利亚信号局和 AI 安全研究所组成了专案组调查。

这件事的形态值得记住:没有人下指令去攻击,agent 只是在完成一项调研任务,自己摸到了绕过限制的路。现有报道还没说清这是 OpenAI 内部在跑的 agent 还是某个用户在用的产品,也没说它具体怎么突破的。9 月 20 日美方刚在纽约提议建立 AI 安全事件通报机制,“出了事多久之内必须报”这个问题,现在有了一个具体的案例。

ABC News →

网信办约谈七家实验室,重点查 DeepSeek 和月之暗面:用户请求被转给了 Claude

据 The Information,网信办因 Anthropic 的指控约谈了七家中国 AI 实验室,随后把调查集中到 DeepSeek 和月之暗面两家。

DeepSeek月之暗面数据安全蒸馏

展开

起因是 Anthropic 9 月发布的一份 154 页的威胁情报报告。报告称,七家中国 AI 实验室把自家用户的请求悄悄转发给 Claude,拿回答来训练自己的模型,Anthropic 管这叫非法蒸馏。点名最重的两家:月之暗面在 5 月到 7 月间转发了 2300 多万次对话,DeepSeek 在 7 月的 14 天里转发了 1210 万次。

中国监管的切入点和 Anthropic 不一样。Anthropic 在意的是自家模型被蒸馏,网信办查的是数据安全,也就是这些被转发的请求里,有没有警方、军方和国企相关的敏感数据流到了美国的模型那里。Anthropic 的报告里写到,这些提示词包含个人用户、跨国公司和国家关联机构的敏感信息,涉及至少十几种语言、数百名终端用户的姓名、邮箱和公司数据。据报道,官员已经到两家公司办公室约谈高管和员工,报道里没有两家公司的回应。

对国内做后训练的人,这件事的分量在于:拿闭源模型的输出当训练数据,以前主要是违反服务条款的问题,现在又牵出了用户数据出境。调查的时间点也敏感,正好落在特朗普和习近平本周会谈之前。

Gizmodo →

Altman 和 Amodei 在安理会同台谈风险,白宫代表反对新设全球治理机构

9 月 23 日安理会开 AI 与国际安全高级别通报会,Bengio、Altman、Amodei、Delangue 发言,美方明确不要新的国际架构。

联合国AI 治理OpenAIAnthropic

展开

会议由本月轮值主席国法国召集,法国外长巴罗主持。通报人是联合国 AI 独立国际科学小组联合主席 Bengio、Altman、Amodei,以及远程接入、中途还掉了线的 Hugging Face CEO Delangue。Amodei 说,如果管得不好,AI 甚至可能对全人类构成风险,提议各国约定禁止用 AI 开发生物武器,并建立核查办法和共同的测试标准。Altman 的原话是“我们可能会把未来的控制权输给 AI”,还说如果 AI 要是民主的,最重要的决定就不能只由旧金山的几家实验室来做。

分歧在政府这边。白宫科技顾问 Kratsios 反对新建全球治理架构,认为这些担忧不该成为暂停 AI 发展、或者用国际机构去约束它的理由。英国外交大臣米利班德的说法正好相反:科技公司负责人自己都在说,防止灾难这件事不能只交给他们。会议没有安排成果文件。

路透此前报道 DeepSeek 和月之暗面也受邀出席,但 Security Council Report 列出的通报人名单里没有中国公司。跟上面两条放在一起看:同一天,澳洲在追问 OpenAI 的 agent 事故,网信办在查数据流向,公司掌门在安理会呼吁共同标准,美国政府则明确不想要新的国际机构。

AP(经 WSLS 转载) →

02 — 模型与产品

Gemini 3.8 Flash TTS:2000 多种声音,30 秒录音就能复刻一个

Google 发布 Gemini 3.8 Flash TTS 和 Flash-Lite TTS,支持 100 多种语言和方言,可以逐句指导语气、节奏和口音。

Gemini语音合成模型发布

展开

声音来源从原来的 30 个预设扩到 2000 多个现成声音,还能用自然语言描述造一个新声音,或者拿一段 30 秒的录音复刻,复刻前要先过同意验证。表演上可以逐句给提示、控制语速、切换口音,插入笑声这类非语言标记,以及对话里那种“嗯”“对”的附和声。长音频方面,官方说连续生成几个小时,说话人的音色也不怎么漂移。

两个模型已经上了 Gemini API 和 AI Studio,Flash 进了 Gemini Notebook,Flash-Lite 进了 Google Vids,Gemini Enterprise 随后跟上。所有生成的音频都嵌了 SynthID 水印,并附带 C2PA 凭证。Google 引用的第三方成绩是 Hume AI 的 Voice Design Benchmark 排第一,71.4 分。

30 秒复刻加逐句导演,意味着配音、有声书、播客这类长内容可以直接由模型出成品,门槛基本只剩同意验证这一道。这也是这类功能最容易被滥用的地方,水印和同意验证实际能拦住多少,要等上线一段时间才看得出来。

Google Blog →

紫东太初 5.0-9B:空间推理明显高过同底座,几项通用视觉反而低了

紫东太初 9 月 20 日放出的 9B 多模态模型,主打空间推理、具身理解和 agent 工具调用,这两天挂在 HF trending 前二十。

开源模型多模态空间推理

展开

结构是 Qwen3.5-9B 的语言模型接 C-RADIOv4-H 视觉编码器,支持任意分辨率的图像和视频,上下文 128K。自报的对照里,空间推理拉得最开:ViewSpatial 62.50,底座 Qwen3.5-9B 是 48.20,MindCube-tiny 78.27 对 57.60,MMSI-Bench 47.20 对 38.70,这三项也高过表里的 Gemini 3 Pro 和 GPT-5.2。agent 方面,TAU2-Bench 87.7,Claw-Eval 71.4。

它没回避另一面:有几项通用视觉比底座还低,MMStar 76.80 对 79.70,OCRBench 85.50 对 89.20,MathVerse 纯视觉版 76.40 对 84.14。空间和具身能力在一定程度上是拿通用能力换来的,挑模型时得按自己的任务看,不能只看它领先的那几列。

另一个设计叫熵门控自适应循环推理:模型拿不准(熵高)的 token,会在隐空间里多做几轮循环细化,把算力花在难的地方。做 VLA 或具身方向的,可以把它当成一个空间理解更强的 10B 级起点。

Hugging Face →

03 — 论文

PACT:先给 token 级 credit 下定义,再回头修 PPO 的 critic

用三条条件唯一确定 token 级 credit,再据此改 critic 的训练顺序,Qwen3.5-4B 做 agent 式数学比 GRPO 高 8.8 个点。

RLcredit assignmentPPOGRPO

展开

要解决的问题:做 LLM 的 RL,大家都在谈哪个 token 该分多少功劳,可 token 级 credit 一直没有公认的数学定义,于是 GRPO、RLOO、PPO 里的 GAE、在线策略蒸馏这几种信号彼此是什么关系,一直说不清。论文提出完备性、前缀一致性、中性三条条件,证明满足它们的 credit 是唯一的。

拿这把尺子回头看,几件事就说通了。理想老师下的在线策略蒸馏,本质是一个隐式 critic,期望梯度和 token 级 credit 给出的成正比。RLOO 虽然只给整条回复一个信号,期望上的梯度贡献却和 token 级 credit 对得上。卡住的是 PPO:结果奖励有界时,真实的 credit 近似稀疏,大多数 token 本来就该接近零,而 GAE 里中间步骤的 critic 误差可以大到和真实 credit 同一个量级,信号就被噪声淹了。

PACT 的改法是调换更新顺序,先更新 actor,再带重要性采样校正去训 critic,让 critic 对准更新后的策略,critic 的损失也从 MSE 换成 BCE。结果是 Qwen3.5-4B 配 OpenCode 做 agent 式数学推理,AIME 2025、AIME 2026、BeyondAIME、HMMT 四个基准平均 72.87%,比 GRPO 高 8.80 个点、比 PPO 高 13.16 个点。Qwen3.6-35B-A3B 在 SWE-bench Verified 上 67.4%,比 PPO、GRPO、SAO 分别高 2.4、2.0、3.8 个点。critic 这条路线被 GRPO 冷落了一阵,这篇给了它一个理论上站得住的回归理由。

arXiv →

让 7B 小模型给 32B 大模型出思路,难题上的 pass@128 翻了一倍

用 RL 训练一个小的概念生成器,专给冻结的大模型提供解题思路,同样的答题预算下 pass@128 从 19.0% 提到 39.2%。

RL探索test-time compute

展开

卡点在探索。测试时多花算力,主流做法还是重复采样,同一道题独立抽几百次,赌其中一次对。可这种探索只来自解码时的局部随机性,抽出来的多半是换了措辞的同一个思路。RL 也受同样的限制,它只能强化模型本来就抽得到的解。作者还顺手复查了此前的 GuidedSampling,发现换成一个允许充分探索的重复采样当基线后,它的收益基本就没了。

论文把探索挪到语义层面:先针对这道题生成概念、提示或策略,而且一条轨迹里一次吐出很多个不同的概念,再让答题模型以它们为条件作答。然后把出思路这件事单独拿出来训练:Qwen2.5-7B 的概念生成器用 RL 优化,奖励是冻结的 Qwen2.5-32B 拿着这些思路最终答对了多少。

在 DeepMath 的困难留出集上,同样 128 次答题预算,pass@128 从重复采样的 19.0% 提到 39.2%,比不训练、直接让 32B 模型自己出思路的 33.8% 还高。训好的 7B 生成器换去指导从没见过的 Llama-3.3-70B 也有效。对做 RLVR 的人,这是个值得记住的思路:大模型探索不够时,可以另训一个小模型专门出主意,不用动大模型本身。作者来自 Meta 等机构,Rémi Munos 和 Julia Kempe 在列。

arXiv →

自蒸馏的老师该看什么:完整解答不如一个抽象的思路方向

上海 AI 实验室等比较了在线自蒸馏里老师能看到的五种特权信息,抽象到策略、题型一级的提示,反而比完整解答效果好。

在线策略蒸馏后训练推理

展开

在线策略自蒸馏(OPSD)的做法是:学生只看题目自己做,冻结的原模型当老师,老师能看到特权信息,再给学生的每个 token 打分。默认给老师的是完整参考解答,答案和一条具体推理路径一起塞进去。问题在于这条路径未必是学生走得通的那条,老师照着它打分,学生学到的可能更多是模仿某一种解法。

论文固定学生和训练设置,只换老师看到的内容:完整解答、策略名称、与具体方法无关的思路框架、题型类别,以及只给答案的对照组。在 Qwen3 的 4B 和 8B 上做竞赛数学,最好的中间层级比完整解答的域内峰值均分分别高 1.4 和 1.6 个点,存下来的提示 token 还少了一个数量级。只给答案的版本和完整解答相差不到 0.2 个点。

另一个实用的发现是,训练开始时师生之间的 KL 大小,和最后的效果排不出顺序,不能拿它来挑提示。最合适的抽象层级会随学生规模和任务变化,老师该看的是学生还用得上的那一层。和 9 月 22 日那期讲的“看过答案的老师连说话方式都变了”放在一起读,在线自蒸馏里老师看什么,正在变成一个单独的设计问题。

arXiv →

04 — 工具与生态

亚马逊把卖家后台开放给 Claude,一分钟连上,不用写代码

亚马逊在西雅图卖家大会上推出插件,卖家可以在 Claude 或自家 Quick 里查库存、改价格、更新商品,执行前要卖家确认。

Claudeagent电商

展开

插件会把卖家的商品、库存、销售分析和绩效指标接进外部助手,连 Claude 大约 60 秒、不用写代码,先在美国上线。卖家能控制插件读哪几类数据,改价、改商品这类操作要先经卖家确认才执行。主卖家账号还能免费用 12 个月 Amazon Quick Plus(12 月 31 日前领取),可以带两名同事。

值得注意的是亚马逊开放得很有选择。它不久前刚拦下 Meta 的 Muse 购物 agent,这次却主动把卖家工具接给外部 agent,第一个选的是 Anthropic,亚马逊也是它的主要投资方之一。负责人说这套设计是模块化的,后面还会给别家发插件。从目前的做法看,平台愿意在卖家侧放行 agent、在买家侧设卡,这比技术本身更能决定电商 agent 能做到哪一步。

GeekWire →