待验证50% 置信事实精确时间
自回归模型生成长度为 N 的文本需要 N 次前向传播，推理延迟随文本长度线性增长
1
来源数
50%
置信度
长期有效
时效性
2026/8/22
首次发现
来源
涉及实体
相关事实
待验证LLM采用自回归方式生成文本，每次只生成一个Token，生成N个Token需要N次前向推理，延迟与输出长度呈线性关系68% 相似待验证大模型推理的自回归生成需要逐Token串行输出，生成N个Token需要N次前向传播67% 相似待验证N-gram统计语言模型通过相邻词的条件概率捕捉局部上下文，受限于固定窗口大小，无法处理长距离依赖，参数量随词汇表指数膨胀65% 相似待验证大语言模型通过自回归生成机制（autoregressive generation）逐token预测下一个输出，天然倾向于生成更完整而非更精简的代码63% 相似待验证N-gram 模型的核心思想是用前 N-1 个词来预测第 N 个词的概率63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/787217API
curl https://kongchang.com/api/v1/knowledge/claims/787217MCP
get_claim(id=787217)