已验证90% 置信事实精确时间

首字延迟（TTFT）指从用户发出请求到模型输出第一个 token 之间的时间间隔，主要受制于 prefill 阶段耗时

7

来源数

90%

置信度

长期有效

时效性

2026/8/31

首次发现

来源

GPT-5.6 Sol Ultrafast：大模型推理加速技术解析

涉及实体

TTFTconcept prefillconcept

相关事实

待验证当前主流大模型在处理复杂代码任务时，首token延迟（TTFT）往往在2-8秒之间77% 相似待验证缓存命中时prefill阶段可跳过已缓存部分，TTFT可从数秒压缩至毫秒级77% 相似待验证响应速度涉及首token延迟（TTFT）和整体吞吐量77% 相似待验证TPOT（Time Per Output Token）指每生成一个后续token的平均耗时，总响应时间大致等于 TTFT + TPOT × 输出token数74% 相似已验证TPS的测量通常分为两个阶段：首Token延迟（TTFT）和后续Token的生成速率（Throughput）72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/829118

API

curl https://kongchang.com/api/v1/knowledge/claims/829118

MCP

get_claim(id=829118)