待验证50% 置信事实精确时间
在AI推理场景下，生成Token的时间通常随输出长度线性增长（O(n)）
1
来源数
50%
置信度
长期有效
时效性
2026/7/21
首次发现
来源
相关事实
待验证LLM采用自回归方式生成文本，每次只生成一个Token，生成N个Token需要N次前向推理，延迟与输出长度呈线性关系69% 相似待验证自回归生成机制决定了推理延迟与成本随输出长度线性增长68% 相似待验证AI叙事生成的高算力消耗主要来源于自回归生成机制，模型生成每个词元时都需完整执行一次前向传播计算，推理成本随长度近似线性增长67% 相似待验证大模型推理的自回归生成需要逐Token串行输出，生成N个Token需要N次前向传播67% 相似待验证O1模型的性能可沿训练时算力（Train-Time Compute）和推理时算力（Inference-Time Compute）两个维度持续提升66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/582524API
curl https://kongchang.com/api/v1/knowledge/claims/582524MCP
get_claim(id=582524)