test-time compute
指模型在推理阶段额外消耗的计算量,通过在回答时生成更长的思维链、采样多条候选路径或进行自我验证来提升准确率。本质上是用计算换准确率的交易。
时间轴 (近 90 天)
Harness2 将测试时计算从对答案的搜索扩展到对 harness 结构的搜索。
推理时计算(Test-Time Compute)通过在推理阶段增加采样、搜索或反思步骤来提升答案质量,例如 Self-Consistency 并行采样多条推理路径再投票,Reflexion 让 Agent 自我批评并重试;每一次采样、每一条并行路径都对应一次完整的前向计算。
循环深度(Recurrent Depth)是测试时计算(test-time compute)研究方向的一种具体落地形式,与 DeepMind 的 Adaptive Computation Time 研究思路一脉相承
多智能体系统本质上是一种并行扩展测试时计算(test-time compute)的方式
数学和计算机科学领域的问题有清晰的逻辑步骤,适合链式推理和测试时计算等范式
乐观派认为随着模型规模扩大、推理链技术成熟及测试时计算策略增强,LLM在ARC类任务上的进步是实打实的
评估闭环是test-time compute研究方向的典型应用,通过推理阶段投入更多计算来提升输出质量而非依赖更大模型参数
测试时计算允许模型根据问题难度动态调整计算投入,是近年AI领域重要的范式转变
测试时计算(test-time compute)允许模型根据问题难度动态调整计算投入,是近年AI领域的重要范式转变
测试时计算(test-time compute)本质上是用更多FLOPs换取更高智能表现的策略
全部知识事实 (10)
测试时计算(test-time compute)本质上是用更多FLOPs换取更高智能表现的策略
70%待验证Harness2 将测试时计算从对答案的搜索扩展到对 harness 结构的搜索。
50%待验证推理时计算(Test-Time Compute)通过在推理阶段增加采样、搜索或反思步骤来提升答案质量,例如 Self-Consistency 并行采样多条推理路径再投票,Reflexion 让 Agent 自我批评并重试;每一次采样、每一条并行路径都对应一次完整的前向计算。
50%待验证循环深度(Recurrent Depth)是测试时计算(test-time compute)研究方向的一种具体落地形式,与 DeepMind 的 Adaptive Computation Time 研究思路一脉相承
50%待验证多智能体系统本质上是一种并行扩展测试时计算(test-time compute)的方式
50%待验证数学和计算机科学领域的问题有清晰的逻辑步骤,适合链式推理和测试时计算等范式
50%待验证乐观派认为随着模型规模扩大、推理链技术成熟及测试时计算策略增强,LLM在ARC类任务上的进步是实打实的
50%待验证评估闭环是test-time compute研究方向的典型应用,通过推理阶段投入更多计算来提升输出质量而非依赖更大模型参数
50%待验证测试时计算允许模型根据问题难度动态调整计算投入,是近年AI领域重要的范式转变
50%待验证测试时计算(test-time compute)允许模型根据问题难度动态调整计算投入,是近年AI领域的重要范式转变
50%