论文解读 · 2026年10月10日
Learn2Play Bench：LLM 智能体在陌生环境中能多好地从经验中学习
Learn2Play Bench: How Well Do LLM Agents Learn from Experience in Unfamiliar Environments?
用 20 款规则隐藏或与常识相反的文本游戏构建基准，衡量 LLM 智能体不依赖先验知识、通过交互进行学习的能力。
问题
现有自我进化（self-evolving）智能体基准中，许多任务的规则写在指令里，或者在预训练中已经很熟悉。因此即使性能提升，也难以区分是通过交互新学到的，还是靠原有知识推理出来的。
方法
基准由 20 个新设计的游戏模板组成，每个游戏都提供确定性反馈和自动评分。其中 10 个每回合使用相同实例，另 10 个保持规则不变、更换角色和布局。5 个高难度游戏玩 10 个回合，其余玩 5 个回合，测量最高分（Max）、平均分（Mean）、最后相对最初的提升（LG）和学习斜率（LS）。使用 OpenCode harness 比较 11 种基座模型；在固定基座模型的情况下比较 Memory、Reflexion、EvoTest、ReasoningBank、AWM 和 Naive；还与人类玩家进行了比较。
结果
- 在 OpenCode harness 下，Claude Opus 5.5 以 Max 80.1、Mean 61.0 位居最高；提升幅度最大的是 Qwen 3.8 Max，LG +25.2、LS +6.30。
- 以 Kimi K3 为基座时，直接放入过去交互记录的 Memory 取得 Max 63.3、LG +16.9，在所有指标上都领先于 Reflexion（61.6，+14.8）、AWM（56.1，+4.8）等总结经验的方法。
- 在同一基座模型下，OpenCode harness 的性能高于所评估的自我进化方法（Kimi K3：OpenCode Max 68.5，对比最佳方法 Memory 的 63.3）。
- 作者报告称，排名第一的人类玩家 Max 为 84.3，高于最佳智能体（80.1）；人类尝试的策略更多样，行为重复更少。
- 作者报告了智能体即使弄清规则也因无法提前规划而失败的案例（Haunted Inn），以及停留在部分有效策略上的案例（GemForge）。
局限
每个游戏模板只用一个种子、3 次试验进行评估，统计规模较小。仅限于文本游戏，尚未确认能否推广到真实工作环境。与人类的比较是按 Max 选出前 k 名的结果。排名可能因权重等汇总方式而变化。
意义
这是一个把智能体部署到陌生系统时所需的“从试错中学习的能力”与先验知识分开衡量的工具。它从实践角度表明，保留原始记录可能比总结经验更好，而且 harness 设计与基座模型同样重要。
关键术语
- 自我进化智能体（Self-evolving Agent）
- 不改变模型权重，而是通过记忆、反思、规则提取等方式，把之前尝试的经验用于下一次尝试的智能体。
- Harness
- 包裹模型、提供工具调用、记忆管理和执行循环的智能体运行框架。本文中 OpenCode 是代表性例子。
- Learning Gain / Learning Slope
- 最后几个回合相对最初几个回合的得分提升幅度，以及对各回合得分拟合的直线的斜率。用于衡量学到了多少。
原文
作者: Yibo Li, Jinhang Qiu, Zhi Zheng, Qianyun Guo, Jiaying Wu, Shuo Ji, Bryan Hooi · 发布 2026-10-06 · 许可 CC BY 4.0 · 基于全文分析
本解读是 AI 阅读论文后撰写的摘要，请以论文原文为准。