面试官你好,这道题问的是智能[[Agent]]里规划能力的提升方法。其实说白了,规划能力本质就是让大模型能自己做多步决策,而不是一步到位。所以主流方法都是从怎么拆解步骤、怎么探索搜索这两个角度去做的。今天我就把[[CoT]]、[[ToT]]、GoT这三类讲清楚,重点不是背原理,而是它们各自适用什么场景,以及真正落地时有哪些坑。
先说CoT,思维链。它的核心就是让模型生成中间推理步骤,一条路走到黑。好处很明显,零额外成本,写个'Let's think step by step'就能用,效果在数学题、符号推理这类单路径任务上确实好。但它的局限也很致命,一旦某一步错了,后面全错,而且没有任何纠错机制。所以它只适合那种路径明确、不需要试错的任务。
然后是ToT,思维树。它把推理建模成树搜索,每个节点是一个思维状态,模型先生成多个候选,然后评估,选好的继续,走不通就回溯。这样就有了显式的探索和自我纠正能力。适用场景很明确,比如创意写作、谜题求解,还有像24点游戏这种需要多步试错的任务。但这里有个大坑,ToT的分支爆炸导致成本指数级增长,而且评估器往往还是用LLM自己打分,可靠性存疑。我在业务里看到的失败案例,很多就是评估器不稳定,导致搜索方向飘掉。
最后是GoT,图思维。它更进一步,允许思维节点任意连接,可以合并、循环、精炼,用图结构捕捉更复杂的依赖。表达能力最强,适合代码优化、多文档摘要这种需要迭代聚合的任务。但坏处也很明显,图结构构建成本高,需要预定义Generate、Aggregate、Refine这些操作符,工程实现非常复杂,目前基本还是研究原型。
所以落地的时候,真正的挑战不是选哪个方法,而是怎么在成本、延迟和效果之间做取舍。举个例子,实时路径规划场景,比如高德导航,用户等不了几秒钟让模型做树搜索,那就只能用CoT加规则后处理,或者轻量ToT限定两三层分支,再配合启发式剪枝。而离线POI信息整合生成攻略,就可以尝试GoT的聚合能力。
这里有个关键风险:ToT和GoT依赖的评估器如果不可靠,整个搜索就白费。我在上线前一定会先做评估器的质量验证,用一批人工标注的中间状态打分,看准确率和一致性。如果评估器不过关,我宁愿退回到CoT加[[Self-Consistency]],多采样几次选多数答案,反而更稳定。
所以我的整体取舍是:把CoT当成基线,ToT当成进阶,GoT当成探索。但有一个点我想提一下,就是这些方法在[[Multi-Agent]]系统里怎么组合。比如让一个Agent做CoT快速出方案,另一个Agent做ToT做深度验证,这种协作我最近看到一些有意思的工作。
最后总结一句,规划能力没有银弹,关键是根据任务性质、延迟要求和评估器质量来选,而且往往混合使用才是正解。