论文解读 · 2026年10月25日
一致但有偏：在多智能体临床决策中，主席人设以噪声换取偏差
Consistent but Biased: Chair Personas Trade Noise for Bias in Multi-Agent Clinical Decisions
在固定病例证据的情况下只改变主席智能体的人设，结果表明人设会显著改变手术时机的决策，而对多次运行之间一致性的提升没有超出偶然水平。
问题
在由多个 LLM 智能体构成的临床决策系统中，通常由主席智能体做出最终决定。但主席的人设提示词是否会改变决策，以及它如何影响一些系统用作可信度指标的重复运行间一致性，此前从未在固定病例的条件下得到验证。
方法
作者让由 7 个智能体组成的虚拟脊柱外科讨论 20 例退行性颈椎脊髓病公开病例（PMC-Patients）。病例报告和风险评估阶段（Stage I–II）的发言只生成一次，并在所有运行中原样复用。只改变主席和副主席的提示词：无人设、协商型（consultative）、独断型（autocratic）、回避型（avoidant）。每种人设都写成“行为规则”版本和“仅性格特征”版本。规则版本运行了 4 种条件×20 例×3 次，特征版本运行了 3 种条件×20 例×2 次。基础模型为 DeepSeek deepseek-v4-pro。作者还在 10 例子集上进行了更换主席模型（gpt-5.6-terra）和改写提示词措辞的复现实验。
结果
- 在规则版本中，“立即手术”决策的比例为独断型 93%、回避型 2%，无人设为 57%。
- 88–100% 的决策保持了手术意向。也就是说，人设主要改变的不是是否手术，而是“现在做，还是检查后再做”的时机。作者报告称，在 10 例子集上，人设的影响大于更换模型带来的变化（各条件下为 3–20 个百分点）。
- 独断型和回避型将 3 次运行完全一致的比例从 50% 提高到 85–90%。但这与根据决策分布预期的偶然一致水平（81–86%）相近，Fleiss κ 也没有上升（无人设 0.31，独断型 0.20，回避型 0.31）。
- 仅使用性格特征的提示词也分别保留了独断型、回避型立即手术效果的 57% 和 76%。快速决策、拖延和追加检查得到了复现，但忽视危险信号、省略备选方案、把决定推给家属则没有复现。
局限
研究只使用了单一疾病（退行性颈椎脊髓病）的 20 例公开病例。模型更换和措辞修改的复现实验只在 10 例子集上每个单元运行了 1 次。一致性分析属于探索性分析。实际治疗记录只是某一个团队的选择，并非标准答案，因此没有评估决策的临床恰当性（盲法临床评审留待后续研究）。由于发言顺序是固定的，未能检验下级沉默效应。只使用了文本记录，没有影像资料。
意义
本研究表明，在多智能体系统中，主席智能体简短的人设提示词对决策的影响可能与模型选择相当，甚至更大。此外，如果把重复运行之间的一致性解读为可信度，就可能把一个一致地存在偏差的系统误判为可靠。作者建议像对待模型一样报告和变更人设，并在报告一致性时进行偶然校正。
关键术语
- 人设提示词
- 这是赋予智能体性格或行为方式的提示词开头部分。本研究将其分为“行为规则”型和“性格特征”型，并比较了二者的效果。
- 噪声与偏差
- 噪声是本应相同的判断之间的分散程度，偏差是判断系统性地偏向某一方。固定的决策方针会减少噪声，但会把偏差带入每一个决策。
- Fleiss κ
- 这是在多次评估（这里指重复运行）之间的一致性中扣除偶然一致概率后计算的指标。如果决策集中在某一侧，即使简单一致率很高，κ 也可能不会上升。
- 证据固定（replay）设计
- 这种方式只生成一次病例报告和风险评估发言，并在所有条件下原样复用。这样就可以把结果差异仅归因于人设和模型的随机性。
原文
作者: Yitong Bai, Chengyi Zhang, Ziyang Wang · 发布 2026-10-22 · 许可 arXiv 비독점 배포 라이선스 · 基于全文分析
本解读是 AI 阅读论文后撰写的摘要，请以论文原文为准。