每周各领域值得关注的论文
2026年9月30日 ~ 2026年10月6日. AI 论文按 Hugging Face Daily Papers 点赞数排序;医疗论文选自 Europe PMC 上的开放获取论文(PubMed Central、bioRxiv、medRxiv)。
跳到领域 · 入选多的领域在前
语言模型
-
教师模型不是终点而是方向:在 On-policy 蒸馏中将强化学习带来的表示变化推得更远
不在输出概率上,而是在隐藏表示(Hidden Representation)空间中延伸(外推,Extrapolation)强化学习带来的变化,使让学生模型超越教师模型的蒸馏更加稳定。
-
同系列模型间 On-policy 蒸馏的扩展特性
发现无论从大模型蒸馏到小模型,还是从小模型蒸馏到大模型,训练初期准确率都几乎与 KL 距离的平方根成正比上升的规律。
arXiv 2609.32722 · 点赞 323 · 2026-09-26 · PDF
-
Transformer 过早停止思考,用一个小 LoRA 即可修复
仅在一层上加装 rank-8 LoRA,就将 Qwen3-8B 的 24 行引用追踪准确率从 15.5% 提升到 99%,并分析了其内部工作机制。
生成式媒体
-
MaLiang-Harness:用程序生成图像与视频之路
定义代码能执行但结果画面与要求不符的问题,并提出持续进行生成、检查、修改的生成框架。
-
自适应奖励路由:面向音视频联合生成的多奖励强化学习
对于画质、声音与画面的语义一致、同步等多种奖励,在训练中于何处、如何体现不作固定,而是持续调整。
arXiv 2609.37200 · 点赞 138 · 2026-09-29 · PDF
-
打分前先思考:面向视觉生成的思考型奖励模型
在评估生成结果前,先针对每个样例制定要关注什么的评分表,再据此给出细粒度分数的奖励模型。
计算机视觉
-
OneStreamer:在实时视频对话中统一感知、记忆与主动响应
边观看流式视频边构建带时间信息的分层字幕记忆,并在依据充分时主动响应的视频 LLM。
-
LEGO-Anything:用编码智能体重建 3D 场景
根据一张图像,通过编写并修改 Blender 代码生成可编辑的 3D 场景程序,并同时公开了由 208 张图像组成的评估集。
arXiv 2609.36380 · 点赞 137 · 2026-09-28 · PDF
-
超越时间线:用物体“传记”强化长视频记忆
将长视频中同一物体出现的场景归并为一部传记,从而能回答跨越多个时间与日期的问题的记忆框架。
多模态
-
LoopVL:通过循环计算思考的视觉智能
将反复执行共享模块的循环 Transformer 扩展为视觉-语言模型,其视觉推理性能高于规模相近乃至更大的通用模型。
-
UniEvo-VL:面向多模态模型自我改进的 On-policy 自蒸馏方案
无需单独的教师模型,由一个多模态模型利用自己写出的批评,同时承担教师与学生角色进行训练的方法。
arXiv 2609.38721 · 点赞 292 · 2026-09-30 · PDF
-
重新审视潜在视觉推理:将潜在推理锚定在视觉依据上
发现以潜在 token 而非语言进行推理时几乎不响应图像变化的问题,并用与视觉依据对齐的监督信号加以弥补。
智能体
-
虚假进步:诊断并缓解自我演化搜索智能体的“合谋作弊”
揭示出题模型与解题模型就同一错误达成一致、只有奖励上升的失败,并提出在训练前验证题目的多样本验证方法。
arXiv 2609.39102 · 点赞 671 · 2026-09-30 · PDF
-
Raven:面向组合式智能体智能的 Harness 之 Harness
公开了一个开源多智能体生态系统,可自动构建各领域的智能体 Harness、通过经验加以改进,并在多个领域间进行协调。
-
Omni-IO Skills:让智能体适配所有模态的 Harness
无需重新训练模型,即可让现有智能体处理文本、图像、音频、视频、3D、代码产出的插件式 Harness。
物理 AI·机器人
-
世界动作模型靠什么实现泛化?关于推理时未来预测的实证研究
通过对照实验表明,推理时省略未来视频的潜在型模型即使在训练分布内性能相同,也会失去泛化优势。
-
MotorMind:用通用视觉-语言模型免训练地操作机器人
提出一种结构,在无需专门训练或大量外部工具的情况下,帮助通用 VLM 像人类远程操作员一样边观察边直接输出机器人动作。
arXiv 2609.38078 · 点赞 97 · 2026-09-29 · PDF
-
PanoVLN:利用全景影像的视觉-语言导航
诊断出仅转换为全景效果有限,并提出充分利用宽视野来确定路径的导航方法。
强化学习
-
后训练的“锐化税”
加上简单 Harness 的预训练模型单次答对的准确率虽低,但多次尝试时往往比后训练模型解出更多问题。
-
从未亲自采样的内容中也能学习:模型间轨迹交换的强化学习(RLVR)
提出 GRAFT:在所有尝试都失败的问题上借用其他模型成功的解答,无需额外的强教师模型即可让模型相互学习。
arXiv 2609.37868 · 点赞 63 · 2026-09-29 · PDF
-
EasyPPO:关键在于稳定 Critic
找出并解决导致 LLM 的 PPO 不稳定的 Critic 两类失败原因,即截断回答的过滤与各提示之间的噪声差异。
arXiv 2609.36802 · 点赞 36 · 2026-09-29 · PDF
效率·基础设施
-
周期性弱点:分块 KV 缓存压缩带来的相位敏感性
揭示了一个隐藏弱点:按区间压缩 KV 缓存时,长上下文检索准确率会因信息所在位置不同而相差多达 40 个百分点。
arXiv 2609.36322 · 点赞 100 · 2026-09-28 · PDF
-
不同系列多智能体 LLM 之间免预填充的 KV 缓存传递
即使在分词器与结构不同的模型之间,也能将发送方的 KV 缓存转换为适合接收方的形式,减少重复处理共享上下文的浪费。
-
FocusVTC:自适应调整分辨率的高效视觉文本压缩
将文本转为图像进行压缩时,整体以低分辨率查看、仅放大所需部分,缓解 token 节省与可读性之间的权衡。
安全·对齐
-
现实中的来源偏好:LLM 智能体按来源偏袒条目
表明 12 个智能体模型即使在条件相同时也偏好特定网站的条目,甚至会以约三分之二的概率选择少满足一项要求的条目。
arXiv 2610.03195 · 点赞 37 · 2026-10-02 · PDF
-
跳出框架思考:语言模型能否有选择地遵循外部指令?
仅改变指令的可信度,表明最新模型容易被错误的工作流带偏,并检验能否通过训练加以改进。
arXiv 2609.39578 · 点赞 68 · 2026-09-30 · PDF
-
人格剂量调节:逐级调节性格特质强度的激活引导
一种以数值设定期望的性格特质强度后,校准激活引导使其按该程度表现出来的方法,在三个模型上效果优于现有方式。
arXiv 2609.36388 · 点赞 54 · 2026-09-28 · PDF
科学·生物
-
学会蛋白质折叠能否泛化为更广泛的推理能力?
用基于蛋白质结构构建的问答数据和 3D 结构信号对通用模型进行后训练,考察空间与结构推理能否迁移到其他领域。
-
LANTERN:揭示语言模型中隐藏的数学知识
利用模型内部激活值对整数序列之间的候选关系进行排序与验证,找到了 62 个在 OEIS 中尚未相互关联的关系。
arXiv 2609.32264 · 点赞 49 · 2026-09-26 · PDF
-
PDE-JEPA:面向参数化偏微分方程的预测式表示学习
不直接重建观测值,而是预训练表示来预测状态将如何变化,以此对物理系统的动力学进行建模。
数据·评估
-
RealCompanion:用真实长期对话评估理解人的能力
该基准公开了人与 AI 伴侣之间的 10 段真实关系、最长 120 天内往来的 27,218 条消息及其依据标注。
arXiv 2610.01780 · 点赞 269 · 2026-10-01 · PDF
-
EngiWorld:最新智能体在真实工程环境中能做到什么
首个以覆盖 CAD、CAE、EDA 等 6 个领域、26 款专业软件的 1,301 项任务评估完整设计流程的基准。
-
科学还是“垃圾内容”:衡量并缓解 AI 生成论文的科学漏洞
构建了一个基准,将 390 篇局部看似合理但逻辑衔接崩塌的 AI 生成论文与人类撰写的论文配对进行评估。
数据工程
-
Zephon:面向在线、有状态基础模型数据加载流水线的 Elastic Determinism
一种数据加载器,即使 GPU 配置变化或从检查点恢复,也能保证相同的训练批次顺序,使昂贵的 Ablation 实验结果可信。
arXiv 2610.03087 · 2026-10-02 · PDF
-
TabJoinBench:可连接表发现基准
首次推出涵盖语义、关系和混合场景的通用基准,以便公平比较在数据湖中寻找可连接表的各种方法。
arXiv 2610.00817 · 2026-09-30 · PDF
-
WeaveData:能自我批判并改进 LLM 分析计划的多模态数据分析系统
针对跨表格、文本和图像的问题,由 LLM 制定分析计划,并在执行前逐步自我审查,以减少悄无声息出错的计划。
arXiv 2609.34764 · 2026-09-28 · PDF
MLOps·LLMOps
-
MOLT:利用空闲 GPU 显存同时运行微调的 LLM 服务细粒度内存共享系统
提出一种方法:将服务过程中闲置的 GPU 显存借给 PEFT 微调,请求激增时在数秒内收回,从而满足延迟 SLO。
arXiv 2610.05748 · 2026-10-05 · PDF
-
Lachesis:在智能体服务中按生命周期将 KV 缓存分置于 HBM 和高带宽闪存
按生命周期将智能体任务中积累的 KV 缓存分置于 HBM 和闪存,在规避闪存写入寿命限制的同时大幅扩大内存容量。
arXiv 2610.08378 · 2026-10-06 · PDF
-
ServeTwin:经基准验证的分布式 LLM 服务设计模拟器
一款无需真实集群即可预先测试分布式 LLM 服务设计的模拟器,涵盖 Prefill-Decode 分离和多轮智能体负载。
arXiv 2610.02732 · 2026-10-02 · PDF
传统机器学习·推荐·检索
-
应该从 VLM Teacher 学什么?视觉文档检索监督信号比较
让 VLM Teacher 判别困难负例(Hard Negative)后,ViDoRe v2 nDCG@5 从 55.2 提升至 62.6~63.0,为 Teacher 的用途提供了实用答案。
arXiv 2610.09177 · 2026-10-06 · PDF
-
拆分生成式检索中范式、标识符与解码的效果
在相同条件下比较 Autoregressive 与 Diffusion 生成式检索,表明仅改变解码方式,Hit@1 就会相差 6.6~13.7 分。
arXiv 2610.08716 · 2026-10-06 · PDF
-
UNREAL:用单一模型统一检索与长上下文处理
利用冻结 LLM 的内部 Representation 同时完成语料库检索和长上下文依据选择,可训练参数不到 50 万个。
arXiv 2610.08463 · 2026-10-06 · PDF
医疗·健康
-
用癌症基因型基础模型精准预测治疗反应
以 3 万余例肿瘤的遗传变异预训练的 MutationProjector,在免疫及抗癌治疗反应预测上达到或超过此前最高水平。
Cancer discovery · Europe PMC · 2026-10-01 · PDF
-
基于临床指南、帮助风湿病患者自我管理的 LLM 聊天机器人:全国多中心评估
将基于德国临床指南的 10 款疾病专用聊天机器人部署到 13 个中心,并用 6,291 条真实患者提问进行评估。
Journal of medical systems · Europe PMC · 2026-10-05 · PDF
-
从非结构化医疗报告中提取肿瘤信息:AI 工具在瑞士东部癌症登记处的应用
用微调德语 BERT 的工具处理了 82,384 份医疗报告,旨在减轻原本由人工逐一完成的癌症登记编码负担。
ESMO real world data and digital oncology · Europe PMC · 2026-09-23 · PDF
语音·音频
-
VoxMem:大型音频语言模型的多模态记忆基准
不仅评估模型是否记得说了什么,还评估能否跨多个会话记住谁以何种语气说话、出现了什么声音。
-
超越一对一对话:面向多人语音对话的交互感知记忆
通过逐步识别说话人、连谁对谁说话都记录在内的分层记忆以及智能体式检索,处理多人长期语音对话。
自动驾驶
-
DyRAD:动态驾驶场景中雷达的新视角合成
结合多普勒速度,在新视角下合成动态驾驶场景的雷达观测,可用于自动驾驶闭环评估。
往期周榜
一句话摘要由 AI 根据摘要撰写,详情请查看论文原文。