第 L 期 · 2026-10-24 周六

DeepSeek 只做后训练就把 V4.1-Flash 推得更快更省;复旦 MOSS、谷歌 EmbeddingGemma 2 开源,arXiv 聚焦 RLVR 与推理剪枝。

8 条

01 — 头条

DeepSeek 发布 V4.1-Flash-1017,一次纯后训练迭代

DeepSeek 不换底座、只动后训练,推出 V4.1-Flash 的 1017 版,官方称推理、编码、agentic 与视觉基准普遍提升,且输出更短、任务用时更少。

模型发布DeepSeek后训练

展开

对盯着后训练这条线的人,这是个干净的样本——同一个底座,只改后训练,就能把官方自报的多项 agent 基准从前一版整体抬上去,比如 Terminal-Bench 4.0 从 31.2 提到 42.3、DeepSWE 从 74.2 提到 77.0,而且用时和输出长度一起往下走。

它想说明的是:所谓性价比前沿,不是只能靠堆参数、扩规模去推,后训练本身就是一条独立的杠杆。需要留一句保留——这些基准都是 DeepSeek 自报、尚无第三方复现,权重已按 MIT 许可放上 Hugging Face,可自行验证。

Hugging Face · DeepSeek →

02 — 模型与产品

复旦 OpenMOSS 开源文生图模型 MOSS-Image

OpenMOSS 团队放出 MOSS-Image 的 Base 与 SFT 两档权重,Apache 2.0 许可、中英双语,配套技术报告、在线 Demo 与 API 平台。

开源模型文生图MOSS

展开

值得留意的是它把预训练底座(Base)和指令微调版(SFT)两个权重都给了。多数开源文生图只放最终成品,两档都放,意味着你能直接对照从底座到对齐这一段里,模型的生成行为到底被改了什么。

对想在图像生成上做后训练、做对齐实验的人,这是一个现成、可复现的起点,而不只是又一个能出图的黑盒。

Hugging Face · OpenMOSS →

谷歌开源 EmbeddingGemma 2,统一四模态的端侧向量模型

Google DeepMind 放出 740M 参数的多模态 embedding 模型,把文本、图像、视频、音频映射进同一个 768 维空间,主打手机、笔记本上的本地 RAG 与检索。

开源模型Embedding谷歌

展开

它的卖点是小而全:270M 文本主干外挂可选的视觉(170M)、音频(300M)编码器,用哪个模态就加载哪个;再靠 Matryoshka 表示把向量截到 128、256、512、768 维,存储成本能省到六分之一。

对在本地搭检索、搭 RAG 的人,这类轻到能塞进消费级设备、还一口气跨四种模态的开源 embedding 并不多见,省去了把向量服务挂到云上的那份账。

Hugging Face · Google DeepMind →

03 — 论文

RLVR 会让模型更图谋权力吗?OLMo-3 的逐检查点证据

研究者沿 OLMo-3 的 SFT、DPO 到 13 个 RLVR 中间检查点追踪工具性趋同行为,发现它不是单调上升,而是先升后降、最终低于 SFT 起点。

论文RLVR对齐安全

展开

这篇在回应一个后训练安全里被反复担忧、却很少被实测的问题:用可验证奖励做强化学习(RLVR),会不会把自我保护、抵抗监督这类图谋权力的倾向练出来。原来卡在大家只看训练前后两个点的安全分,看不出中间到底发生了什么。

它改成逐检查点的行为轨迹:工具性行为比例从 SFT 的 25.0% 升到 RLVR 第 200 步附近的 46.1%,再降到最终的 11.8%——非单调,且作者验证这不是提示词措辞造成的。结论谨慎限定在该模型家族和这套基准上,但方法本身给了后训练安全评估一个更细的视角。

arXiv →

直接优化 Pass@k 来给思维链剪枝

针对测试时扩展里生成一堆候选解再挑的做法,提出按 pass@k 直接选择保留哪些前缀候选,让质量与多样性由目标本身平衡,而非各写一套启发式。

论文推理test-time scaling

展开

背景是推理模型靠多采样来提高正确率,但把每条候选都跑到底太贵,于是流行只生成短前缀就剪枝。原来的剪枝要么只给单条打质量分、丢掉预测会错的,要么只挑轨迹不同的求多样,这两者其实是探索与利用的矛盾,几乎没人直接去优化这个权衡。

这篇把剪枝目标设成最大化保留池里至少有一条续写到底是对的那个概率,于是高质量自然被奖励、冗余被惩罚,质量和多样性由判据本身平衡。在八个开源推理模型上,它都优于现有的质量型和多样型剪枝,且保留中等数量候选时增益最明显。

arXiv →

CausalCoT:用上下文隔离堵住思维链的注意力泄漏

思维链的中间步未必真驱动了答案。该工作把问题拆成子问题的有向无环图,每个节点只在直接父节点的隔离上下文里求解,逼模型靠局部推理而非全局偷看。

论文思维链可解释性

展开

它针对的是思维链解释不忠实这个老问题:标准自回归生成里,注意力能看到全部上文,模型常常直接查出答案,再补一段看着合理、其实是事后编的推理。

CausalCoT 把推理结构化成一张 DAG,切断到非父节点的注意力通路,让下游预测对局部推理敏感。多个推理基准上,它保住了可比的准确率,同时把中间步的因果敏感度平均提高 12、最高 21 个百分点,还支持局部一改、下游可预测地跟着变的测试时干预。

arXiv →

04 — 工具与生态

Datalab 开源 Indra OCR:100 万参数,跑在 CPU 上

Datalab 放出仅 1M 参数的 OCR 模型 Indra,能在 CPU 上把 PDF 和图片转成 markdown、纯文本或带坐标的 JSON,读手写体、80 多种语言、任意角度的页面。

工具OCR开源

展开

亮点在于把文档解析压到 100 万参数、不依赖 GPU 就能跑,官方报 OmniParseBench 66.7 分。对要批量把论文、扫描件、手写材料喂进流水线的人,这种轻到能本地随手跑的 OCR 很实用。

模型以 ONNX 格式分发,语言覆盖从中英日韩到阿拉伯、印地等 80 多种,省去了为了认几页字去调一个大模型的那份算力账。

Hugging Face · Datalab →

OpenDS-World:把深度搜索 agent 拉到真实活网页上考

一个面向自主多步深度搜索 agent 的 live-web 基准,让 agent 在真实、会变化的网页上完成多步检索,结果显示前沿模型与人类仍有明显差距。

Agent评测基准深度搜索

展开

多数 agent 评测跑在静态快照或模拟环境里,和真实网页的噪声、改版、反爬差得远。OpenDS-World 把考题搬到活的互联网上,更贴近深度研究类产品真正要面对的场景。

它量出来的前沿模型与人类之间的差距,恰好说明这条路离好用还有距离。对做搜索、研究类 agent 的人,这是一面照镜子,而不是又一张刷满分的榜。

Hugging Face Papers →