论文解读 · 2026年10月13日
Reflex：基于视觉的反应式人形机器人全身控制
Reflex: Visually Grounded Reactive Humanoid Control
将全身控制、物体动力学推理和第一人称视觉 grounding 分为三个阶段学习，使真实的 Unitree G1 仅凭机载 RGB-D 就能接住人抛来的箱子。
问题
要在 1 秒内用全身对飞来的物体作出反应，需要同时具备全身协调、在延迟下实时预测动力学，以及基于移动第一人称相机的感知。现有系统依赖末端执行器、动作捕捉或贴有标记的物体，只解决了其中一部分。
方法
以接箱子为代表任务，分三个阶段学习。第一阶段以模拟器中的箱子状态为输入，使用 PPO 和人类动作先验（AMP）训练全身接取的教师策略。第二阶段构建特权（privileged）编码器，将带有 20~60ms 延迟和缺失的箱子观测压缩为 8 维动力学潜在向量。先通过匹配教师行为进行初始化，再以 DAgger 方式收集数据并用 PPO 精调。第三阶段固定控制器，训练仅凭 RGB-D 历史和相机自身运动回归该潜在向量的视觉编码器。
结果
- 在仿真中，基于第一人称 RGB-D 的接取成功率为 85.7%，接近直接接收箱子状态的特权观测基准（87.9%）。
- 去掉时序视觉历史后，成功率在正面抛掷中下降 35.6 个百分点，在侧向 0.6m 偏移抛掷中下降 39.8 个百分点。
- 真实的 Unitree G1 在 2.5m 和 5m 距离上接住人抛箱子的成功率分别为 65% 和 40%，相当于同距离下人类成功率（85.0%、68.3%）的 76% 和 59%。
- 行为匹配初始化比权重映射初始化平均高 5.2 个百分点。回归学习到的潜在向量优于回归完整的箱子状态。
局限
任务只有接箱子一项。真实机器人的成功率随距离增加大幅下降。硬件上相机到控制的延迟中位数（69ms）超出了训练时注入的延迟范围（20~60ms）。部分比较（如延迟训练的效果）为单一随机种子的结果。
意义
在真实硬件上展示了无需动作捕捉等外部设备、仅凭机载视觉即可对快速移动物体作出全身反应的人形机器人。通过潜在向量将感知与控制分离的设计，具有扩展到其他反应式技能的余地。
关键术语
- Privileged Learning
- 一种方法：用只有模拟器中才能获得的精确状态训练教师策略，再让仅使用真实传感器的学生策略模仿学习。
- AMP(Adversarial Motion Prior)
- 一种技术：判别器将动作与人类动作数据进行比较，对“像人”的动作给予奖励，帮助机器人学会自然的动作。
- DAgger
- 一种模仿学习方法：在训练中的策略实际访问过的状态上额外收集教师的正确动作，不断扩充数据集。
- Ego-motion（自身运动）
- 搭载相机的机器人自身的运动。它会与视频中的物体运动混在一起，因此需要单独输入，才能正确估计物体动力学。
原文
作者: Taoyang Jia, Weikai Huang, Linxin Song, Jared Darlington, Jieyu Zhao, Yue Wang, Jiafei Duan, Zhongzheng Ren, 等 · 发布 2026-10-08 · 许可 arXiv 비독점 배포 라이선스 · 基于全文分析
本解读是 AI 阅读论文后撰写的摘要，请以论文原文为准。