待验证50% 置信事实精确时间
每token生成时间（TPOT）衡量模型在自回归解码阶段逐个生成token的速度
1
来源数
50%
置信度
长期有效
时效性
2026/8/31
首次发现
来源
涉及实体
相关事实
待验证自回归生成是指模型每次根据前面已有的所有token来预测下一个token，逐步展开直到生成完整代码块67% 相似待验证大语言模型采用自回归生成机制，在每一步仅根据概率分布采样下一个token，每个token的生成以前序所有token为条件形成链式概率依赖64% 相似待验证在二分类问题中召回率（Recall/Sensitivity）计算公式为TP/(TP+FN)，衡量模型识别所有真实阳性样本的能力64% 相似待验证LLM自回归解码阶段每生成一个token都需从显存加载全量模型权重，批量较小时形成内存墙63% 相似待验证LLM推理的prefill阶段并行处理输入所有token并生成初始KV Cache，是计算密集型操作，是TTFT的直接决定因素63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/831543API
curl https://kongchang.com/api/v1/knowledge/claims/831543MCP
get_claim(id=831543)