待验证50% 置信事实精确时间
TTFT（首token时间）指从请求发出到模型生成第一个输出token的延迟，主要由prefill阶段决定。
1
来源数
50%
置信度
长期有效
时效性
2026/10/14
首次发现
来源
涉及实体
相关事实
待验证大模型推理分为Prefill和Decode两个阶段，Prefill是首Token延迟(TTFT)的重要组成部分，Decode对应每Token生成时间(TPOT)78% 相似待验证LLM推理的prefill阶段并行处理输入所有token并生成初始KV Cache，是计算密集型操作，是TTFT的直接决定因素69% 相似待验证每token生成时间（TPOT）衡量模型在自回归解码阶段逐个生成token的速度63% 相似待验证流式处理机制允许LLM生成首个句子时即触发TTS合成，无需等待完整回复，从而压缩感知延迟62% 相似待验证TZ 环境变量用于设定容器的系统时区，直接影响 date 等脚本和命令返回的时间结果62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1026732API
curl https://kongchang.com/api/v1/knowledge/claims/1026732MCP
get_claim(id=1026732)