待验证50% 置信事实精确时间
LLM推理延迟通常细分为首Token延迟（TTFT, Time To First Token）和每Token生成时间（TPOT, Time Per Output Token）
1
来源数
50%
置信度
长期有效
时效性
2026/9/12
首次发现
来源
涉及实体
相关事实
待验证每 token 生成时间（TPOT）衡量模型在自回归解码阶段逐个生成 token 的速度77% 相似已验证TTFT（首个token生成时间）是衡量LLM用户体验的核心指标，决定用户从提交请求到看到第一个字符的等待时长71% 相似待验证TIMESTAMP在底层以UTC存储，写入时将会话时区转换为UTC，读取时还原为会话时区；DATETIME原样存储输入字面值，不做时区转换67% 相似待验证首字节响应时间（TTFB）反映从请求发出到模型返回第一个token之间的延迟，涵盖网络传输、请求队列等待和模型预热时间66% 相似待验证时间表达规范化的代表性工具包括SUTime和HeidelTime，但LLM处理时间表达不依赖这些规则引擎而是基于训练数据的统计模式推断66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/912164API
curl https://kongchang.com/api/v1/knowledge/claims/912164MCP
get_claim(id=912164)