从 ChatGPT 发布 o1 开始,我就在想,所谓的“深度推理”和“Thinking”或者思维链(CoT)是否只是一种 Prompt 强化。
它实际上只是将一次请求拆成两步,第一步先按规定好的一套相对科学、严谨、全面的方式生成用于指导第二步生成的 Prompt。
然后,再将原始诉求和第一步生成的推理结果来完成第二步,也就是最终结果的生成。
再 Google AI Studio 里测试了一个月之后,我觉得就是这样的。
因为使用两个没有 CoT 的模型手动模拟,可以显著提升其生成结果,达到带 CoT 模型的效果。
甚至,你自己手工仿照 AI 的逻辑写一大段 CoT 也能提升非 CoT 模型的后续输出。
所以,CoT 很大程度上,还是用户本身写 Prompt 不行的问题,更适合开放性问题。
一些嵌入到刚性 Workflow 的把智能当螺丝钉的场景(比如翻译、摘要、案例筛选等),引入 CoT 反而可能会让结果更不稳定。
 
 
Back to Top