已验证65% 置信事实精确时间
TTFT由Prefill阶段决定受算力约束，TPOT对应Decode阶段受内存带宽约束
3
来源数
65%
置信度
长期有效
时效性
2026/7/22
首次发现
来源
相关事实
已验证首字延迟（TTFT）指从用户发出请求到模型输出第一个 token 之间的时间间隔，主要受制于模型对输入 prompt 的预填充（prefill）阶段耗时75% 相似待验证TTFT决定用户从发出请求到看到第一个字的等待时间，ITL决定后续内容的生成节奏69% 相似待验证ConverseStream 能力允许模型在生成过程中逐块（chunk）返回内容，缩短首字延迟（TTFT）68% 相似待验证TTS服务采用解耦设计后，当请求量激增时只需扩容Worker，缓存层充当屏障避免下游服务对相同文本重复计算67% 相似已验证预填充（Prefill）阶段是计算密集型任务，对算力要求高；解码（Decode）阶段是访存密集型任务，对显存带宽敏感67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/586941API
curl https://kongchang.com/api/v1/knowledge/claims/586941MCP
get_claim(id=586941)