AI 术语表 · 基础 · 语言模型
CoT
CoT（Chain-of-Thought，思维链）是一种让 AI 模型不直接给出答案，而是逐步写出中间推导过程、最终得出答案的方法。
通俗解释 这类似于数学考试时不只写下心算出的答案，而是按顺序写出解题过程。不过，并不能保证模型写出的推导过程总是与模型内部实际决定答案的过程一致。
工作原理
LLM 以 token 为单位逐个续写文本，并参考前面已写的内容决定下一个 token。因此，先写出中间步骤，这些内容就会成为解决下一步的铺垫。最初是通过在提示词中加入“让我们一步一步思考”之类的句子，或同时展示包含解题过程的示例，来引出 CoT。如今的推理模型则通过强化学习等后训练，被训练成能自行写出很长的 CoT。
为什么重要
在数学题、逻辑谜题、编程等需要多个步骤的问题上，它往往能提高正确率。由于把大问题拆成小问题处理，一次性作答时容易出现的错误会减少。它是在作答时投入更多计算以提升性能的测试时计算的代表性方法，也是推理模型的基础。人还可以阅读推导过程，检查在哪里出错，这也是它的优点。
注意事项
推导过程越长，消耗的 token 越多，成本和响应时间也随之增加。在简单问题上效果很小或几乎没有。看似合理的推导中可能混有错误的步骤。此外，无法保证写出的推导如实反映模型的实际内部判断，这一问题是可解释性研究的课题。部分服务只展示摘要，而不展示 CoT 原文。
示例
使用推理模型的聊天机器人常会显示“思考中”，并让用户可以折叠或展开推导过程，这就是 CoT 外显的典型例子。对普通模型，只要要求“请一步一步地解释”，也能获得类似效果。