概念thinking budget / 推理预算
思考预算
推理增强型大模型的核心机制,指模型在输出最终答案前内部推理链可使用的token数量上限,预算越高模型推理能力越强但计算成本越高
时间轴 (近 90 天)
10月15日
在评测中,如果不固定思考预算,同一模型的分数就不可比,预算实际上成了一个隐藏的超参数。
待验证50%
推理增强型大模型的核心机制,指模型在输出最终答案前内部推理链可使用的token数量上限,预算越高模型推理能力越强但计算成本越高
在评测中,如果不固定思考预算,同一模型的分数就不可比,预算实际上成了一个隐藏的超参数。