Chain-of-Thought (CoT) 是什么?为什么有效?
题目
Chain-of-Thought (CoT) 是什么?为什么有效?
参考答案
点击展开参考答案
- CoT:让模型在给出最终答案之前,先一步步写出推理过程;比如数学题先列步骤再写答案。
- 为什么有效:(a) 把复杂推理拆解成多步,每步难度降低;(b) 中间推理步骤给模型更多"思考空间",相当于多算了几 token;(c) 大模型有能力做逐步推理,只是直接要答案时它不会展示出来。
- 触发方式:在 few-shot 示例中展示"思考→答案"的格式;或者 Zero-shot CoT 直接加一句"让我们一步一步思考"。
- 追问:小模型用 CoT 有效吗?(答:不太有效——研究发现 CoT 主要对 >10B 的模型有提升;小模型推理能力不够,加了 CoT 反而可能跑偏)
- 追问:CoT 和直接答案比,为什么准确率高?(答:因为中间步骤相当于"草稿纸",模型可以在中间步骤纠正自己的错误;直接输出答案相当于心算,更容易错)