第 IV 期 · 2026-08-31 周一
01 — 头条
马斯克周末确认，SpaceX 在得州 Bastrop 的秘密工厂是铸造燃气轮机叶片的，目标把自家 AI 数据中心的供电提前一年半。
卡点不在涡轮机本身，在叶片铸造：全球能做工业级铸造的只有四家，GE Vernova 的订单已经排到 2030 年。所以整条链上真正稀缺的不是芯片，是能把气烧成电的那几片高温合金。同一套铸造能力还能给星舰的 Raptor 涡轮泵用，一个厂两个内部买家，这是马斯克系公司一贯的做法。
TechCrunch 这篇的落点不是产能而是代价。弗吉尼亚的数据中心走廊里，研究测算某一处设施的八台涡轮每年会多造成 3.4 到 6.5 例过早死亡、5300 万到 9900 万美元的健康损失；燃气轮机排出的甲醛等有害物已经引来联邦诉讼。算力扩张的账单正在从电费栏移到公共卫生栏，而且落点集中在特定社区。
数据中心进到吉瓦级之后，决定效率的不再是堆多少算力，而是数据在系统里怎么搬——英伟达的优势正挪到这一层。
正在铺开的 Vera Rubin 架构不是一颗芯片，是 GPU、CPU、推理加速器、存储和网络打包成的一整套。文章给的例子是 Vera CPU：不靠加时钟周期，靠重排数据流动路径，在部分操作上拿到三倍以上的提升。
值得注意的是对手也在解同一道题——OpenAI 自研的 Jalapeño 芯片，目标同样写着最小化数据搬运和通信延迟。这说明竞争的战场已经从单卡算力挪到了系统编排层。对做大规模 RL 后训练的人来说，这条线和论文那一节的 27046 是同一件事的两面：训练框架的瓶颈越来越多地出现在多模型流水线的调度和通信上，而不是矩阵乘法。
OSHA 申报数据显示，2024 和 2025 两年里，两家公司的安全员因车辆急刹受伤 20 多起，有人被迫休养数月。
伤情多是急刹造成的挥鞭样损伤——车做出的是安全决策，代价落在坐在驾驶位上的人身上。这类伤害不进碰撞统计，也不算事故，此前几乎没有被系统性记录过。
更关键的是这个数字只是下限。记者明确指出，其他自动驾驶公司可能不在 OSHA 的申报义务范围内，它们的安全员伤情根本不会出现在任何公开数据里。当一个行业的安全叙事完全建立在自报的里程和事故率上时，这种从劳工申报口子倒推出来的数据，反而是少数几个能独立交叉验证的来源。
02 — 模型与产品
法律税务信息公司在开源权重上做持续学习，造出自己的前沿模型，小号版已上 Hugging Face 并冲进 trending 前 20。
配置摆在模型卡上：35B 总参、3B 激活的 MoE，沿用 Qwen3.6-35B-A3B 的架构，原生 262144 上下文，BF16 权重，整条流水线消耗 1.63 × 10²³ FLOP、35207 个 B200 GPU 小时。许可是 polyform-strict，不能商用。
真正值得看的是流水线的三段式：先用 Constitutional DPO 做价值重对齐，再做数据驱动的持续预训练（2000 亿 token，从 19 万亿的池子里筛出来，专有文档、合成改写、通用回放大致各占三分之一，配合模型融合保住通用能力），最后 DPO 加 RL 做行为和 agent 能力。对齐目标用的是公开可改的 Public AI Constitution，而不是自家闭门写的价值观，这个选择本身就是个表态。
对做后训练的人，这是一份少见的、把完整配方连同权重一起交出来的工业级案例——它想证明的是前沿性能不必从头预训练，在别人的开源权重上做持续学习就够了。
$2/$10 每百万 token 原定 8 月 31 日到期、次日涨到 $3/$15，Anthropic 已把它定为标准价，涨价取消。
这条值得单独记一笔，是因为方向反了。今年大部分模型的定价变动都是往上走或者悄悄换算法，而这里是一个已经公告过的 50% 涨价被直接撤销，写进了官方定价文档的说明框里。
对照同一张表看更清楚：Sonnet 4.6 和 4.5 还是 $3/$15，Sonnet 5 现在永久停在 $2/$10，Haiku 4.5 是 $1/$5。也就是说新一代 Sonnet 比上一代便宜三分之一。另外表下面那条注释同样要留意——4.7 及以后的模型换了新分词器，同样的文本大约多出 30% 的 token，单价降了不等于账单降了，估成本时要把这一段乘回去。
03 — 论文
ETH 的 Hoefler 组把 PPO、GRPO 拆成计算图重新分析，再给多模型 RL 训练列了一套并行策略分类。
原来卡在哪：RLM 训练动辄几百万 GPU 小时，一条流水线上同时挂着 actor、reference、reward、critic 好几个模型，彼此之间既有依赖又要抢显存。但社区讨论 GRPO 时几乎只谈优势函数怎么算、KL 怎么加，很少有人把它当成一个分布式系统问题来正面处理——于是调参的人凭经验拼框架，出了性能问题也说不清是算法的锅还是编排的锅。
这篇做的是两件事。一是 compute-centric 地重述这些算法：同样一次更新，PPO 和 GRPO 各自要跑几次前向、几次反向、哪些能重叠。二是把并行策略系统地列开——传统的数据、张量、流水、序列、上下文、专家并行之外，多模型场景特有的解耦放置、阶段融合、混合并行、异步执行也都归了类，并用 work-depth 模型给出可移植的分析框架，最后落到对现有 RLM 框架的评估和实践建议上。
对自己搭 GRPO 训练的人，这大概是目前最系统的一份工程地图。
奖励模型和 reranker 把候选塞进同一个 prompt 打分，分数因此依赖排列顺序；只看排序指标选型，会漏掉真正要紧的那部分。
原来卡在哪：大家挑打分器一律看 nDCG 之类的排序质量，默认排序好就等于用起来好。但分数的下游用途不是排序，是决策——一个阈值保留哪些、reader 据此回答什么、偏好模型选中哪条。作者拿五个训练过的打分器做实验，nDCG@10 彼此差不到 0.010，可一旦把候选重新排列，各自保留下来的集合只重叠 0.66 到 0.84；哪怕是表现最好的那个已发表 reranker，重叠率也只有 0.667。也就是说排序榜上看不出差别的两个模型，实际保留的内容可能差三分之一。
他们试过的所有 prompt 层面的改动都消不掉这个顺序依赖，唯一提升了排序质量的那个改动，三项决策一个都没改变。于是提出 OC-SFT，把“分数不应依赖顺序”这件事训进权重里：排序质量不掉，各项决策稳定性在所有训练过的打分器里全面领先，reader 答案在排列对之间的翻转率是 0.125，另外三个针对顺序的目标是 0.149 到 0.164。
结论对做 RLHF 的人直接可用——评估奖励模型时，光报排序指标不够，得报阈值到底留下了什么。代码在 github.com/thomsonreuters/presentation-dependence。
agentic 模型靠 tool-call 轨迹做后训练，而造轨迹要搭环境、真跑、再验证；这篇改成在 mid-training 阶段直接学公开的 skill 包。
原来卡在哪：agentic 能力的监督信号质量很高，但生产成本是硬约束——每一条轨迹背后都要有一个能跑起来的任务环境和一套验证逻辑，所以工具和任务的覆盖面永远拉不开。而公开的 skill 包里其实已经写清了工具语义和工作流，只是一直被当成推理时塞进上下文的材料，没人拿它当训练数据。
做法是把这些多文件 skill 包收集成 SkillCorpus，在 mid-training 阶段做普通的因果语言建模，可以混通用数据。一个细节值得单独看：Reference Insert——skill 包是多文件的，直接拼起来会打散文件之间的引用关系，所以他们把被引用的辅助文件插到主指令里提到它的位置附近，让模型在训练时看到的引用是就近的。
在多个模型规模和多种后训练配方上，SPT 都比在通用数据或轨迹数据上做 mid-training 更好，同时基本没伤通用能力；skill 数据和通用退火语料混合还有额外收益。
04 — 工具与生态
原版 Qwen3.8-27B 排第四，后面跟着一串 abliterated、uncensored、GGUF 衍生版，四个改版下载量加起来超过 229 万。
具体是这几个：OBLITERATUS 的 OBLITERATED 版 945 个赞、72.5 万下载；orcarouter 的 Uncensored-MLX 和 Uncensored-FP8 分别是 1235 和 1286 个赞；HauhauCS 那个 Aggressive-MTP 的 GGUF 量化下载量最高，115.8 万。四个全部挤在 trending 前 20。
这件事的信号不在于内容尺度，而在于开源权重发布之后发生了什么：模型一放出来，几天之内社区就会自动补齐量化、平台适配和拒答移除这三件事，而且这三条流水线的下载量能超过原始权重本身。对发布方来说，这意味着安全加固只在自己托管的那份权重上有效——GLM-5.3-Flash 上周才按 MIT 开源，本周 trending 里就已经有了 UNCENSORED-W4A16 版本。