Self-Consistency
一种提示工程技术,通过对同一问题多次采样CoT推理路径并取多数投票结果来提升推理准确率,以计算成本换取可靠性
核心事实
时间轴 (近 90 天)
推理时计算(Test-Time Compute)通过在推理阶段增加采样、搜索或反思步骤来提升答案质量,例如 Self-Consistency 并行采样多条推理路径再投票,Reflexion 让 Agent 自我批评并重试;每一次采样、每一条并行路径都对应一次完整的前向计算。
集成采样方法(如自洽性检验)通过对同一问题多次采样统计答案分布估计不确定性,准确性较高但推理成本成倍增加
提示工程是指通过精心设计输入提示引导大语言模型产生更准确输出的技术和方法论,包含零样本提示、少样本提示、思维链、自一致性等技术范式
Self-Consistency由Wang等人提出,Tree-of-Thought由Yao等人提出
Self-Consistency由Wang等人提出,通过生成多条推理路径后多数投票选择最一致的答案
高级提示技术包括Tree-of-Thought(思维树)、Self-Consistency(自洽性采样)、ReAct(推理+行动)等,通过设计输入格式在不改变模型参数的情况下激活模型潜在推理能力
全部知识事实 (16)
Self-Consistency的核心方法是对同一问题进行多次独立采样,生成多条不同的思维链(Chain of Thought),通过多数投票选出出现频率最高的答案
90%已验证Self-Consistency(自一致性)策略由Google Research在2022年论文《Self-Consistency Improves Chain of Thought Reasoning in Language Models》中正式提出
75%已验证Self-Consistency方法同时生成多条思维链并取众数作为答案,但存在多条错误链压过正确链的风险
65%已验证Self-Consistency策略的本质是用计算资源换取推理可靠性
65%已验证Self-Consistency通常将temperature设置为0.7以上以增加采样多样性
65%待验证大模型的规划能力经历了四个进化阶段:基础输入输出、Chain of Thought(思维链)、Self-Consistency(自洽性)、Tree of Thought(思维树)
80%待验证2023年以来,学术界提出了思维链(Chain-of-Thought)、思维树(Tree-of-Thought)、自我一致性(Self-Consistency)等推理增强技术
75%待验证自我一致性(Self-Consistency)方法由Xuezhi Wang等人提出,在GSM8K等数学推理基准测试中将准确率提升了10%以上
70%待验证在GSM8K数学推理基准上,Self-Consistency相比单次贪婪解码可将准确率提升约17个百分点
60%待验证Self-Consistency(自洽性采样)和Tree-of-Thought(思维树)是Chain-of-Thought的后续衍生方法
60%待验证推理时计算(Test-Time Compute)通过在推理阶段增加采样、搜索或反思步骤来提升答案质量,例如 Self-Consistency 并行采样多条推理路径再投票,Reflexion 让 Agent 自我批评并重试;每一次采样、每一条并行路径都对应一次完整的前向计算。
50%待验证集成采样方法(如自洽性检验)通过对同一问题多次采样统计答案分布估计不确定性,准确性较高但推理成本成倍增加
50%待验证提示工程是指通过精心设计输入提示引导大语言模型产生更准确输出的技术和方法论,包含零样本提示、少样本提示、思维链、自一致性等技术范式
50%待验证Self-Consistency由Wang等人提出,Tree-of-Thought由Yao等人提出
50%待验证Self-Consistency由Wang等人提出,通过生成多条推理路径后多数投票选择最一致的答案
50%待验证高级提示技术包括Tree-of-Thought(思维树)、Self-Consistency(自洽性采样)、ReAct(推理+行动)等,通过设计输入格式在不改变模型参数的情况下激活模型潜在推理能力
50%