基础与架构

Denny Zhou

周登勇

复杂推理 · Self-Consistency

Denny Zhou 的研究关注语言模型怎样解决需要多步推理的问题。他参与的代表工作包括 Self-Consistency 和 Least-to-Most Prompting，分别研究如何利用多条推理路径，以及如何把复杂问题拆成可处理的子问题。

Self-Consistency 不只采用模型一次生成的推理过程，而是采样多条路径，再根据得到的答案进行汇总。它利用不同路径之间的一致性减少单次生成的偶然错误，但多次生成也会增加计算量。

Least-to-Most 先将问题分解，再依次解决子问题，并把前面的结果交给后续步骤。两种方法关注的是不同环节：前者比较多次尝试，后者组织问题之间的依赖。它们为后来通过增加推理时计算改善效果的研究提供了具体实例。