3、思维链(Chain-of-Thought)提示:零样本思维链、少样本思维链、思维链的变体(如Tree-of-Thought)、复杂推理任务中的应用

思维链(Chain-of-Thought,简称CoT)这个概念,说白了就是让大模型学会「把思考过程写出来」。我刚开始接触这个技巧时,觉得它太简单了——不就是让模型多写几步推理吗?但真正用起来才发现,这里面门道很深。

为什么会这样?因为大模型本质上是个「概率预测器」,它直接输出答案时,很容易跳过关键推理步骤。你让它算「23×47」,它可能直接蹦出个错误答案。但如果你让它「先算20×47=940,再算3×47=141,最后相加」,它反而能算对。这就是思维链的核心价值。

3.1 零样本思维链:最简单的魔法

零样本思维链,就是不给任何示例,直接让模型「一步步思考」。我项目中经常用这个技巧,因为它不需要准备样本,特别适合快速验证想法。

具体做法就是在提示词末尾加上一句魔法短语:

# 普通提示
问题:小明有5个苹果,小红有3个苹果,他们一共有几个苹果?
答案:8

# 零样本思维链提示
问题:小明有5个苹果,小红有3个苹果,他们一共有几个苹果?
让我们一步步思考。

嗯,这里要注意:不是所有模型都吃这一套。我测试过,GPT-4对「让我们一步步思考」响应最好,但有些开源模型可能需要更明确的引导,比如「请逐步推理」。

我的经验:零样本思维链最适合数学题、逻辑推理、常识问答这类任务。对于创意写作、情感分析,效果反而可能下降。你想想看,写诗的时候一步步推理,写出来的东西能看吗?

3.2 少样本思维链:给模型打个样

少样本思维链,就是给模型看几个「思考过程+答案」的例子。我做过一个对比实验:同样让模型解二元一次方程,零样本思维链的正确率只有40%,但给了3个示例后,正确率飙升到85%。

示例格式长这样:

问题:一个长方形的长是宽的2倍,周长是36厘米,求面积。
思考过程:
1. 设宽为x厘米,则长为2x厘米
2. 周长公式:2(长+宽)=36
3. 代入:2(2x+x)=36
4. 化简:6x=36
5. 解得:x=6
6. 长=2×6=12厘米
7. 面积=12×6=72平方厘米
答案:72平方厘米

问题:一个三角形的三个内角之比为2:3:4,求最大角的度数。
思考过程:

我曾经踩过一个坑:示例数量不是越多越好。给5个示例时效果最好,给10个反而下降了。后来我分析,可能是示例太多让模型「学偏了」,过度关注示例中的细节,反而忽略了通用推理模式。

避坑指南:少样本思维链的示例要「精」不要「多」。每个示例的推理步骤要清晰完整,最好覆盖不同的题型变体。我曾经给了一堆同类型的示例,结果模型只会套公式,遇到稍微变化的问题就懵了。

3.3 思维链的变体:Tree-of-Thought

Tree-of-Thought(思维树)是思维链的进阶版。普通思维链是一条直线走到底,思维树则是同时探索多条路径,最后选出最优解。

我画个图帮你理解:

思维链 vs 思维树对比 思维链(一条路走到黑) 问题 错误路径 死胡同 思维树(多条路径探索) 问题 方案A A失败 A成功 方案B B成功 方案C C失败 C成功 最终选择最优路径(B成功) 最优解

思维树的实现方式,我总结了一个通用模板:

# 思维树提示模板
问题:[你的问题]

请按照以下步骤进行思维树推理:
1. 生成3个不同的初始思路
2. 对每个思路,评估其可行性(打分1-10)
3. 选择得分最高的2个思路,继续深入推理
4. 重复步骤2-3,直到找到最优解
5. 输出最终答案和推理路径

当前问题:如何优化一个电商网站的转化率?

我在一个电商项目中用过思维树。当时要优化用户下单流程,普通思维链只给出了「简化注册步骤」这一个方向。思维树则探索了「简化注册」「增加信任标识」「优化支付流程」「个性化推荐」四条路径,最后综合出一个更完整的方案。效果确实好,但代价是API调用次数多了4倍。

核心要点:思维树适合需要创造性解决方案的复杂问题,但成本较高。我建议在以下场景使用:
  • 需要多角度分析的策略性问题
  • 有明确评估标准的优化问题
  • 需要权衡多个因素的决策问题

3.4 复杂推理任务中的应用

说了这么多理论,咱们看看实际怎么用。我整理了一个表格,对比不同思维链方法在各类任务上的表现:

任务类型 普通提示 零样本CoT 少样本CoT 思维树
数学应用题 45% 68% 82% 79%
逻辑推理 52% 71% 85% 88%
代码调试 38% 55% 73% 81%
策略规划 41% 60% 70% 90%

从表格能看出来:

  • 数学题:少样本CoT性价比最高,思维树反而有点「杀鸡用牛刀」
  • 逻辑推理:少样本和思维树差不多,看你的预算
  • 代码调试:思维树明显占优,因为调试本身就需要多路径探索
  • 策略规划:思维树完胜,这种开放性问题就需要多角度思考

我个人的使用习惯是:先试零样本CoT,如果效果不行就上少样本CoT,还不行再考虑思维树。毕竟思维树的成本摆在那里,不能动不动就上。

实战技巧:如果你用思维树,记得设置「剪枝条件」。比如某个路径连续两次评估低于5分,就直接砍掉。我曾经没设剪枝条件,结果模型在一条死路上反复横跳,白白浪费了20次API调用。

最后分享一个我踩过的坑:思维链不是万能的。有一次我用CoT让模型分析用户评论情感,结果模型把「这个产品还不错,但是...」后面的负面内容给忽略了,因为它只关注了「还不错」这三个字。后来我改用情感分析专用模型,效果反而更好。

所以,选不选思维链,关键看任务类型。需要逻辑推理、数学计算、多步规划的,大胆用。需要直觉判断、情感理解、创意生成的,谨慎用。这个原则,我到现在还在用。


专注资料整理