概念latent space reasoning / 隐空间推理
隐空间推理
一种模型推理范式,不在离散文本token空间中生成推理步骤,而是在连续的隐向量空间中完成多步推理,仅在最后将结果解码为文本。效率优势源于跳过逐token自回归生成,但牺牲了透明性和工具调用能力。
时间轴 (近 90 天)
10月14日
隐空间推理(latent space reasoning)指模型不生成离散文本token,而是在连续隐向量空间中完成多步推理,仅在最后将结果解码为文本,代表性工作包括Coconut。
待验证50%
10月14日
纯隐空间推理无法在推理中途调用外部工具,因为模型未生成文本形式的工具调用指令。
待验证50%