待验证50% 置信事实精确时间
在生成式大模型里,一次前向传播通常只产出一个 token,要得到完整输出必须把结果回填到输入中反复调用,即自回归解码。
1
来源数
50%
置信度
长期有效
时效性
2026/10/20
首次发现
来源
涉及实体
相关事实
待验证大模型推理的自回归生成需要逐Token串行输出,生成N个Token需要N次前向传播79% 相似待验证每生成或处理一个Token,都需要执行一次前向传播,其计算量大致与模型参数量成正比。78% 相似已验证大语言模型的Token生成过程是串行的,基于自回归机制,每个Token的生成都依赖于前一个Token77% 相似待验证自回归生成模式意味着模型必须逐Token生成,无法并行输出整个回复77% 相似待验证Transformer 模型推理时,输入 token 可并行处理(prefill 阶段),输出 token 必须逐个自回归生成(decode 阶段),导致输出 token 的单价通常高于输入 token77% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1074389API
curl https://kongchang.com/api/v1/knowledge/claims/1074389MCP
get_claim(id=1074389)