论文解读 · 2026年10月24日

不用机器人数据，用合成数据学习机器人行为先验

Learning Robot Behavior Priors from Non-Robotic Synthetic Data

仅用 MDP、Contextual Bandit、线性动力系统等数学控制抽象来预训练 Transformer，在从未见过机器人数据的情况下，在真实机器人行为预测上获得了远优于随机水平的 In-context 性能。

问题

机器人学习严重依赖昂贵的真实机器人数据，而模拟器只是把这一负担转移到各领域的工程工作上。作者探讨：仅用完全不涉及具身（embodiment）的廉价程序化合成数据，能否学到对机器人行为预测有用的先验结构。

方法

采用 Prior-Data Fitted Network（PFN）方式，训练一个在给定状态-动作上下文时通过一次前向传播预测被留出动作的 Transformer。连续动作用 K-means 离散化为 64 个区间。合成数据生成器有三种：用 GP 采样奖励和转移、再用价值迭代求解的 MDP；处理单步状态-动作选择的 Contextual Bandit；具有强时间自相关的线性动力系统（LDS）。特征顺序每次随机打乱。将其与 TabPFN 的通用表格先验，以及用相同计算量在真实机器人数据上训练的基线进行比较。

结果

在 VMAS 模拟多智能体任务（9 种动作）上，控制先验模型的准确率为 0.58，高于表格先验（0.49）。
在 4 个真实机器人数据集（A2D2、DROID、飞行、GrandTour）上，平均准确率控制先验为 0.166，表格先验为 0.039（随机为 1/64≈0.016）。RCD 为 0.706 对 0.905，有所改善。
消融实验中，LDS 是单一先验中最强的，在真实机器人组合上取得了与完整混合相近的性能。作者将其解释为：迁移的是局部时间连续性，而非长期价值结构。
报告称，用真实机器人数据训练的基线在其训练所用的数据集上强得多，但在未见过的任务组上，所提出的模型领先。

局限

以64个类别计，绝对准确率仍只有0.12~0.24左右，作者也表示这是对真实数据训练的补充而非替代。评估仅为离线动作预测，没有测量真实机器人控制性能。该设置将连续动作离散化，且不使用视觉输入，只使用状态向量。

意义

在机器人数据采集成本高昂的情况下，这项研究提供了证据，表明廉价的数学合成数据可以作为有用的预训练先验（Prior）。它也为哪类合成结构（时间连续性）能够迁移到真实机器人提供了线索。

关键术语

PFN(Prior-Data Fitted Network): 一种 Transformer，用从先验分布中采样的合成数据集训练，使其看到新数据集的上下文后无需额外训练即可直接预测。TabPFN 是代表性例子。
In-context Learning: 不更新权重，只根据输入中给出的示例（上下文）回答新查询的能力。
线性动力系统（LDS）: 一种系统：下一状态由当前状态的线性变换加上与动作相关的位移和噪声决定。它模拟像物理系统那样平滑变化的状态。
RCD(Relative Centroid Distance): 一种指标，用预测动作区间中心与正确答案中心之间的距离除以随机猜测时的期望距离。0表示完美，1表示随机水平。

原文

作者: Mateusz Odrowaz-Sypniewski, Michael Amir, Jasmine Bayrooti, Ajay Shankar, Amanda Prorok · 发布 2026-10-22 · 许可 arXiv 비독점 배포 라이선스 · 基于全文分析

本解读是 AI 阅读论文后撰写的摘要，请以论文原文为准。