面试里问到"让大模型推理更强",很多人只会答一句"加个 Chain-of-Thought"。但面试官往往追一层:ToT 和 GoT 又是什么?它们和 CoT 的本质区别在哪?什么时候该上更重的方案? 答不上来,就暴露了对推理范式演进的理解只停在表面。这篇把三者一次讲透——核心线索只有一句:推理的结构从「链」长成「树」,再长成「图」,复杂度递增,能啃的难题也越来越硬。
CoT:把推理拉成一条链
Chain-of-Thought(思维链)的思想极简:别让模型直接吐答案,而是逼它把中间步骤一步步写出来。一句 "Let's think step by step" 或者几个带推理过程的示例,就能显著提升算术、常识、逻辑题的正确率。
它的结构是单一线性链:问题 → 步骤1 → 步骤2 → … → 答案,一条道走到黑。
问题 ──▶ 想法A ──▶ 想法B ──▶ 想法C ──▶ 答案
优点是便宜、直接、几乎零改造成本。但短板也很明显:没有回头路。第二步一旦想歪,后面全盘皆输,模型不会退回来换条路——因为它根本没有"别的路"这个概念。对于只有一条正确解题路径的题目够用,碰到需要探索、试错的问题就力不从心。
ToT:让推理长成一棵可回溯的树
Tree-of-Thoughts(思维树)的破局点是:在每一步允许生成多个候选想法,形成分叉,再对分支做评估、搜索与剪枝。推理不再是一条链,而是一棵树。
┌──▶ 想法A1 ──▶ …(评分低,剪掉)
问题 ──▶ 想法A ──┤
└──▶ 想法A2 ──▶ 想法A2b ──▶ 答案 ✓
└──────▶ 想法B ──▶ …(走不通,回溯)
关键机制有三个,缺一不可:
- 多路径分叉:每一步不只想一种可能,而是铺开若干候选;
- 状态评估:用模型自评("这一步靠不靠谱/离目标近不近")给每条分支打分;
- 搜索 + 回溯 + 剪枝:配合 BFS/DFS 遍历,走进死胡同就回溯到上一个分叉换条路,明显没戏的分支提前剪掉省算力。
正因为能回头、能比较,ToT 在 24 点、填字、需要规划试错的谜题上大幅超过 CoT。代价是调用次数暴涨——每个节点都要生成候选、每条分支都要评估,token 和延迟成倍上去。
GoT:把树的枝叶接成一张图
Graph-of-Thoughts(思维图)更进一步。树有个硬约束:每个节点只有一个父节点,兄弟分支之间老死不相往来。可现实里的复杂推理常常需要"把两条线索的结论合并起来"——树做不到,图可以。
GoT 把每个想法建模成图中的一个节点,节点间的依赖是任意有向边。于是它解锁了树没有的两种操作:
- 聚合(aggregation / 合并) :把多个不同分支的中间结果汇聚成一个新想法——比如分头处理再合并结果,这是 GoT 相对 ToT 最标志性的能力;
- 精炼(refine) :让一个想法通过自环反复迭代优化自身。
┌──▶ 想法A ──┐
问题 ──┤ ├──▶ 合并(A,B) ──▶ 精炼 ⟳ ──▶ 答案
└──▶ 想法B ──┘
典型收益场景是可分治再合并的任务:长文档分段总结再汇总、大列表分块排序再归并。原论文在排序等任务上显示,GoT 相比 ToT 能在提质的同时降低成本——因为"合并"复用了分支成果,不像 ToT 那样各分支各算各的、彼此浪费。当然,代价是编排逻辑最复杂,要自己设计图的结构与操作。
三者对比:一张表看清结构与取舍
| 维度 | CoT(链) | ToT(树) | GoT(图) |
|---|---|---|---|
| 结构 | 单一线性链 | 树(一父多子) | 有向图(任意连边) |
| 多路径探索 | 否,一条路走到底 | 是,分叉出多候选 | 是,且分支可交叉 |
| 是否回溯 / 剪枝 | 不能回溯 | 可回溯、可剪枝 | 可回溯,另加聚合/精炼 |
| 能否合并分支 | 无分支可合 | 不能(兄弟隔离) | 能,核心卖点 |
| 成本 / 复杂度 | 最低 | 中,调用暴涨 | 最高,编排最复杂 |
| 典型适用 | 单路径解题:算术、常识、逻辑推导 | 搜索/规划/试错:24点、谜题、多步方案 | 可分治再合并:文档分块汇总、大列表归并排序 |
记忆锚点:CoT 是一条链,ToT 是一棵可回溯剪枝的树,GoT 是一张能合并的图。结构越复杂,能探索的解空间越大,花的算力也越多。
怎么选:先估问题的"搜索难度"
三者不是谁替代谁,而是随问题的搜索难度递增而升级。选型别一上来就堆最重的方案——GoT 的编排开销可能远超收益。实用的判断顺序是:
- 解题路径唯一、或试错成本低 → 直接 CoT。够用、便宜、好维护,这是绝大多数场景的默认选择。
- 需要探索多条路径、会走进死路要回头(规划、谜题、需要试错比较) → 上 ToT,用评估和剪枝把探索控制在预算内。
- 问题能拆成子任务、且子结果需要合并(分治汇总类) → 才值得用 GoT,让"合并"复用中间成果、摊薄成本。
换句话说:先问这道题是"一条路"、"要探路"还是"要分头再会合",答案分别指向 CoT、ToT、GoT。
一句话总结
CoT 把推理拉成一条不能回头的链,ToT 把它长成能分叉、评估、回溯剪枝的树,GoT 再把树接成能聚合合并、迭代精炼的图——结构复杂度与算力成本一路递增,对应的也是从单路径解题、到搜索规划、再到分治合并这条越来越硬的问题谱系;选型的诀窍是按问题的搜索难度从轻到重逐级升级,而不是无脑上最重的那个。