论文解读 · 2026年10月15日
RSI-Nav:通过策略同步的语言-动作相互自举实现导航的递归自我改进
Data-Centric Recursive Self-Improvement for Navigation via Policy-Synchronized Language-Action Dual Bootstrapping
由一个模型自行生成、执行并验证路径指令,并在每个小数据块(分片)后立即更新自身,通过这种递归自我改进提高了 VLN-CE 成功率。
问题
视觉-语言导航(VLN)需要大量指令数据,但人工标注成本高。现有合成方法要么将指令生成模型和导航模型分开,要么使用任务专用结构。而且要用固定模型标注完整个语料库后才更新策略,导致生成的监督信号落后于不断进步的策略。
方法
由单个 Qwen3.5-9B 同时负责指令跟随(以 4 个动作为单位预测)、指令生成(输入 32 帧和动作序列)以及空间理解。先通过 SFT 获得基础能力。之后将无标注的轨迹数据切分为小分片,在每个分片上由当前模型生成指令,并从起点亲自执行。只保留同时满足到达目标 3m 以内和 SPL 阈值的样本对。保留的样本对与原始轨迹配对,用作指令跟随和生成两个方向的训练数据,再重新混入空间理解数据(replay)立即更新模型,然后进入下一个分片。
结果
- R2R-CE Val-Unseen 成功率(SR)为 68.6%,高于同一表格中基于 waypoint 的模型 GridMM(49.0%)和 VLN↻BERT(44.0%)
- RxR-CE Val-Unseen 成功率为 72.4%,高于同一表格中的 VLN↻BERT(27.0%)
- 在递归改进过程中,生成了约 250 万个经执行验证的指令跟随样本和约 110 万个指令生成样本
- 作者报告称,相比 SFT 初始模型,在 4 个空间理解基准(VSI-Bench、ScanQA、SQA3D、MindCube)上略有提升
局限
原始轨迹是固定的离线数据,因此并非严格意义上的在策略(On-policy)训练(作者称之为“策略同步”)。由于使用原始轨迹而非实际执行的轨迹作为监督信号,改进对象集中在语言监督上。评估仅限于基于 Habitat 的仿真环境。所提供的正文被截断,因此未能确认与最新基线的详细比较和消融实验数值。
意义
展示了一个由模型通过执行验证自身生成的数据并立即用于训练的循环。在人工标注昂贵的具身 AI 领域,可作为以数据为中心的自我改进方法参考。
关键术语
- VLN-CE
- 连续环境中的视觉-语言导航。智能体按照自然语言指令,通过前进、旋转等低层动作移动到目标位置。
- SPL(Success weighted by Path Length)
- 同时反映是否到达目标以及路径与最短路径接近程度的导航效率指标。
- 递归自我改进(RSI)
- 模型亲自生成并筛选下一版本的训练数据,改进后的模型再生成更好数据的迭代过程。
原文
作者: Songze Li, Haoming Gu, Ziyang Gong, Zhitong Wang, Gengze Zhou, Zun Wang, Yuhan Zhu, Tianxiang Jiang, 等 · 发布 2026-10-11 · 许可 arXiv 비독점 배포 라이선스 · 基于全文分析
本解读是 AI 阅读论文后撰写的摘要,请以论文原文为准。