概念Width Scaling / Breadth Scaling
宽度扩展
测试时扩展的一种形式,模型在每一步生成多个候选路径,通过选择机制筛选最优分支,核心挑战在于选择机制的设计
时间轴 (近 90 天)
10月12日
宽度扩展是指模型在每一步生成多个候选,然后通过某种选择机制筛选最优分支,常见的选择机制包括自我一致性投票和过程奖励模型打分。
待验证50%
10月12日
宽度扩展中,宽度越大,找到正确路径的概率越高,但计算成本也呈线性增长。
待验证50%
10月12日
深度、宽度与反馈三个维度共享同一个推理预算池,增加深度意味着减少宽度探索的机会,投入反馈迭代则可能牺牲单次推理的深度。
待验证50%
10月12日
对于数学证明类任务,深度扩展通常更有效,因为逻辑链条需要保持连贯;对于开放域问答,宽度扩展更有优势;对于代码生成与调试,反馈机制价值最大,因为编译器和测试用例提供了可靠的外部验证信号。
待验证50%