每周各领域值得关注的论文
2026年10月12日 ~ 2026年10月18日
跳到领域 · 入选多的领域在前
语言模型
-
通过基于批评的 On-policy 蒸馏找回可靠的监督信号
指出教师模型会跟随学生模型错误 rollout 的问题，并提出 CriticOPD：由教师模型先批评错误，再让学生模型重新求解。
-
Cortex：将通过上下文获得的性能固化为参数记忆
定义了将移除上下文后就会消失的性能提升保存到模型内部的“记忆整合”问题，并在 4B~120B 模型上用可合并的低秩更新加以解决。
arXiv 2610.20399 · 点赞 67 · 2026-10-14 · PDF
-
UltraBERT：突破 BERT 预训练的局限
重新审视编码器预训练方法的实用配方研究，发现性能在数万亿 token 之后趋于饱和，且掩码比例对分类和检索的作用不同。
arXiv 2610.15028 · 点赞 71 · 2026-10-10 · PDF
生成式媒体
-
AesCode：通过解耦的跨模态奖励生成美观的基于代码的设计
用代码制作幻灯片、海报和仪表盘时，以图像生成结果作为美学引导，产出既可编辑又美观的结果。
-
SALD：面向扩散模型的自参照优势学习
无需外部教师模型或演示数据，以同一模型较容易的噪声路径为基准，让扩散模型自行生成学习信号的方法。
arXiv 2610.01496 · 点赞 103 · 2026-10-01 · PDF
-
Speculative Forcing：高效的自回归视频生成
提前确定已经足够精细的 token 并跳过其去噪，减少流式视频生成中的不必要计算。
计算机视觉
-
InfiniSplat v2：任意视角下 Feed-forward 3DGS 的分析与改进
将几何与属性预测分离，并加入大视角变化训练，在 6 个数据集上提升了直接从图像生成 3D 场景这类方法的渲染质量。
-
3DCodeVerse：用代码探索 3D 世界
将 200 万条可执行 3D 代码数据集与验证工具结合，使编程智能体能够大规模生成可编辑、可验证的 3D 内容。
-
GroundAnything：高速兼顾并行解码与精确视觉定位
一个 4B 视觉定位模型，不按顺序生成位置预测，而是以扩散方式并行细化，兼顾速度与准确性。
多模态
-
MJev-Spatial：通过原生注意力匹配实现即时响应的空间智能
将空间关系、距离和位置问题作为单个分类问题求解，而非文本生成，使 VLM 无需缓慢解码即可以交互速度作答。
-
VisionWeave：让多模态 LLM 自行调节视觉表征的规模
着眼于图像各区域所需细粒度不同，让模型自行学习在何处使用多少视觉 token。
-
Intern Lumina U2：兼顾视觉理解与图像生成的多码本扩散 LLM
用多个码本承载丰富的视觉信息，并在与文本相同的优化空间中由一个模型同时处理理解与生成。
语音·音频
-
Fish Audio Drama 3 技术报告
基于 35B MoE 的开源语音生成模型，在一个模型中支持表演指令遵循、多说话人配音、语音编辑和流式输出。
arXiv 2610.18010 · 点赞 33 · 2026-10-13 · PDF
-
用立体声聆听世界：沉浸式视频与音频联合生成
提出 StereoBind，将视频运动与立体声音频绑定，使画面中声源移动时声音位置随之变化，提升 AR/VR 的沉浸感。
-
SepGen：用一个模型完成多声源音视频分离与生成
扩展视频与音频生成器，使其不仅输出混合声音，还能分别输出各声源的波形，从而支持新视角渲染等应用。
智能体
-
MAI-Gym：用于移动端和 PC 环境 GUI 智能体评估与强化学习的一体化开放平台
将评估、数据收集和在线强化学习整合到一条 rollout 流水线中，并扩展到 2 万个并行环境的开放平台。
-
自我进化的智能体 Harness
将在保持模型权重不变的情况下，依据反馈改进提示词、记忆、工作流和工具的过程形式化，并分析了泛化保证。
-
Harness^2：面向开放世界的递归智能体 Harness 构建
一种插件式递归自我改进框架，旨在让智能体即使在没有答案验证器的新任务中，也能自行修正其运行环境。
物理 AI·机器人
-
LeWAM：用 JEPA 一次性学习世界模型与动作
通过同时学习潜在状态预测与动作生成的 JEPA，将视觉规划成功率从 28.6% 提升到 89.7%。
-
VLA-Δ：学习物理状态变化的 Vision-Language-Action 模型
一个通用框架，不直接连接观察与动作，而是直接监督当前与未来的物理变化，以减少机器人策略的过拟合。
-
WAVE-0：用轻量潜在未来预测连接 VLA 策略与世界动作模型
无需昂贵的视频生成，用轻量潜在世界模型预先预测动作结果，为机器人操作策略增加预测能力。
强化学习
-
Tev：用密集进度奖励扩展长程任务智能体环境
一个长程任务训练数据集，为 7 个领域的 1,170 个经过验证的环境加上逐步进度奖励，直接应对奖励稀疏问题。
arXiv 2610.18868 · 点赞 112 · 2026-10-13 · PDF
-
TPPO：面向语言模型推理的价值追踪型 PPO
一种 PPO 变体，将价值函数重新设计为累积结构，以便在只有最终奖励的情况下更好地追踪每个 token 的贡献。
-
Mosaic：跨多个会话的智能体强化学习
针对上下文压缩和子智能体导致轨迹被拆分到多个会话的实际运行方式，提出区分各会话贡献的强化学习设置。
效率·基础设施
-
DoSA：Dots 稀疏注意力
一种无损稀疏注意力方法，连寻找 Top-K 选择所需键的计算也一并减少，同时完全保持选择结果。
-
LatentLoop：用非对称计算分配扩展循环式 MoE
基于在两次使用同一模块的循环式 MoE 中、降低第一次传递的比重也能保持性能这一观察，对计算进行非对称分配。
-
KV4-RL：用 INT4 KV 缓存量化加速 RLVR 异步 rollout
指出在强化学习 rollout 中，KV 缓存量化比权重量化效果更大，并提出在不降低训练效果的前提下使用 INT4 的方法。
arXiv 2610.14448 · 点赞 36 · 2026-10-10 · PDF
AI 安全
-
Last Secure Code 基准：氛围编程写出的代码安全吗？
基于 150 个真实漏洞构建 450 个任务、覆盖 7 种语言，评估编程智能体在未提及安全的请求中是否会写出安全的代码。
-
APEX-Harm：共享工作空间中的智能体安全性评估
一个基准，在金融、咨询、法律业务的大规模文件、邮件和聊天环境中，按 6 种类型评估提示词注入和脚本注入攻击。
-
TRACER：对抗间接提示词注入的推理路径正则化训练
表明同一攻击若通过检索文档进入，成功率会更高，并通过考虑渠道的对抗训练，将 RAG 形式攻击的成功率从 65.5% 降至 6.1%。
arXiv 2610.19133 · 2026-10-13 · PDF
安全·对齐
-
分数上升，回答变差：用协议级评分细则减少奖励破解
以临床咨询为例，表明简单累加评分细则得分时，即使漏掉要点也能凑满分数，并通过将标准打包评估的方法加以防止。
-
狭窄的多模态微调也会引发涌现性对齐失败
在 15 个模型上确认，此前只在文本中研究过的涌现性对齐失败，在视觉-语言模型中仅通过狭窄任务的微调也会出现。
-
Pristine Models：可关闭危险概念的图像生成模型
提出一种新的文本到图像架构，不做事后遗忘，而是在预训练阶段就将危险概念知识分离出来，并在推理时加以阻断。
arXiv 2610.14091 · 点赞 27 · 2026-10-08 · PDF
数据·评估
-
多模态数据混合的缩放定律
针对预训练中文本、视觉、音频应如何混合，通过 268 个基于 MoE 的实验推导出数据混合缩放定律。
arXiv 2610.14423 · 2026-10-10 · PDF
-
AutoSFT：自动化监督微调数据研究的智能体系统
探讨智能体要完成配比调整、剪枝、修改、合成等数据工程师的全部工作，需要怎样的结构。
-
ZOIF：仅用前向传播估计影响函数的 LLM 数据选择
无需反向传播，仅用前向传播估计训练数据的影响力，使大模型也能在没有内存负担的情况下进行数据选择。
arXiv 2610.15336 · 2026-10-11 · PDF
数据工程
-
PremiseSQL：评估 Text-to-SQL 的错误前提批判与弃答
用 1,800 个前提错误的问题，评估 Text-to-SQL 系统能否暂缓作答，而不是给出误导性 SQL 的基准。
arXiv 2610.22158 · 2026-10-15 · PDF
-
相同上下文，不同智能体：数据智能体的语义层、编排与压缩研究
用 7 个 LLM 和 1,514 个长程任务，综合比较分析了语义层、多智能体分工和历史压缩的效果与成本。
arXiv 2610.20959 · 2026-10-14 · PDF
-
相同查询，不同答案：语义查询处理的运行间差异
通过 120 万次调用测得，即使在温度为 0 时，基于 LLM 的查询引擎每次运行的结果也不同，揭示了基准可靠性问题。
arXiv 2610.13823 · 2026-10-09 · PDF
MLOps·LLMOps
-
当 KV 缓存比 GPU 更慢时：远程 KV 层扩展研究
分析了一个实际运营案例：启用远程 KV 缓存后，p99 首 token 延迟从 3.96 秒增至 17.3 秒，表明缓存复用并不总是有利。
arXiv 2610.21500 · 2026-10-15 · PDF
-
Prorsa：在智能体强化学习中利用 Prefill-Decode 分离
将服务端的 Prefill-Decode 分离设计应用于多轮智能体强化学习 rollout，以提高 rollout 效率的方法。
arXiv 2610.16592 · 2026-10-12 · PDF
-
Vesta：面向真实工作负载的队列感知 LLM 调度
一个调度器，在多轮智能体请求中同时考虑缓存复用和队列拥塞，决定请求在何处执行。
arXiv 2610.14686 · 2026-10-10 · PDF
传统 ML·推荐·检索
-
正确答案有多个，训练示例只有一个：消除 LLM 推荐器 GRPO 中的应答者噪声
指出从多个回答中只挑一个给予奖励的方法存在噪声，并提出将所有回答合并一次性评分的 ReMaRk，使推荐强化学习更便宜、更稳定。
-
TransX 技术报告：面向推荐的序列转换扩展
一个工业级推荐系统框架，分别扩展序列编码、行为记忆和候选融合，并同时设计了服务部署。
arXiv 2610.20913 · 2026-10-14 · PDF
-
TRACER：面向LLM智能体的轨迹感知工具检索
利用过去的工具调用顺序筛选下一个工具，在128个工具中只展示5个，同时提高了选择准确率，并将输入token减少了80%。
arXiv 2610.21267 · 2026-10-15 · PDF
医疗·生物
-
X-Ragent：面向有据可依的胸部X光推理的工具使用强化学习
用强化学习训练一个使用工具的胸部X光判读智能体，使其学会判断何时需要额外证据，并过滤掉不恰当的定量测量。
arXiv 2610.16811 · 点赞 81 · 2026-10-12 · PDF
-
精准预测治疗反应的癌症基因型基础模型
基于3万多个肿瘤的基因组变异进行预训练的MutationProjector，在免疫及抗癌治疗耐药性预测中表现出最高水平的性能，并发现了新的生物标志物。
Cancer discovery · Europe PMC · 2026-10-01 · PDF
-
从非结构化医疗记录中提取肿瘤数据：瑞士东部癌症登记处的AI工具应用
基于德语BERT的工具处理了来自200余家机构的82,384份医疗报告，在实际运行中将原本由人工完成的癌症登记编码实现了自动化。
ESMO real world data and digital oncology · Europe PMC · 2026-09-23 · PDF
金融·保险
-
识别不等于找到依据：多语言财务依据提取基准
MULTIFINGROUND基于英语、法语和希腊语的披露文件构建，揭示了LLM识别会计概念与完整找出相关数值之间的差距。
arXiv 2610.19432 · 2026-10-14 · PDF
-
FRACTION：通过探索图上下文的智能体生成欺诈解释
同时考察交易图的结构和内容，生成人可读的解释，说明为何判定为欺诈风险，并提出了评估解释质量的方法。
arXiv 2610.18023 · 2026-10-13 · PDF
-
SOTA：由期权隐含收益率分布驱动的股票期权交易智能体
一种智能体式期权交易框架，不受固定策略束缚，根据市场情况选择组合哪些期权合约以及如何组合。
arXiv 2610.10407 · 2026-10-07 · PDF
制造
-
LIBERO-Industry：工业流程约束下的机器人操作基准
反映产品变体、移动的物料、时间限制、严格公差等多品种小批量装配条件，评估通用机器人策略。
arXiv 2610.16782 · 2026-10-12 · PDF
-
IND-Eval：工业时间序列基础模型评估基准
将工业时间序列按来源整理为预测任务的公开基准，比较了主要的时间序列模型，并表明了针对领域定制评估的必要性。
arXiv 2610.16652 · 2026-10-12 · PDF
-
Agentic4PDM：面向工业故障诊断的证据采纳受控智能体
一种故障诊断框架：LLM智能体使用分析工具检查传感器信号，而薄弱或相互矛盾的证据由主控端（host）把关，以防止过度解读。
arXiv 2610.17786 · 2026-10-13 · PDF
法律·专业服务
-
当引用产生误导：主张级法律幻觉检测基准
利用基于纽约州上诉法院判决的3,396条主张，评估LLM判断其引用的判例是否真正支持该主张的能力。
arXiv 2610.10971 · 2026-10-07 · PDF
-
LLM理解法哲学吗？法哲学推理诊断
着眼于同一法条会因法官的法哲学不同而有不同解释这一点，提出了评估LLM法哲学推理的LePhilBench。
arXiv 2610.19427 · 2026-10-14 · PDF
-
基于结构的知识图谱实现可验证的法律检索
一种RAG方法：将德国法律文件的结构构建为知识图谱，以可验证的方式检索文件增多时容易遗漏的关键上下文。
arXiv 2610.13695 · 2026-10-09 · PDF
科学·生物
-
SwarmRSI：通过进化的科学智能体群实现递归自我改进
一个科学智能体群，共享多个研究方向的实验结果，共同完善假设与实现，尝试实现研究能力的自我改进。
arXiv 2610.20431 · 点赞 68 · 2026-10-14 · PDF
往期周榜
一句话摘要由 AI 根据摘要撰写，详情请查看论文原文。