待验证50% 置信事实精确时间

TTFT决定用户从发出请求到看到第一个字的等待时间，ITL决定后续内容的生成节奏

1

来源数

50%

置信度

长期有效

时效性

2026/9/15

首次发现

来源

确定性执行如何驱动高能效AI推理：解读Groq LPX与NVIDIA平台协同

涉及实体

TTFTconcept ITLconcept

相关事实

待验证首字延迟（TTFT）指从用户发出请求到模型输出第一个 token 之间的时间间隔，主要受制于模型对输入 prompt 的预填充（prefill）阶段耗时78% 相似待验证TTFT由Prefill阶段决定受算力约束，TPOT对应Decode阶段受内存带宽约束69% 相似待验证流式STT和TTS允许系统在处理未完成时就开始并行处理，从而压缩用户感知到的等待时间64% 相似待验证在流式输出模式下，系统可在收到第一个Token时立即启动TTS合成，无需等待完整回复生成62% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/922968

API

curl https://kongchang.com/api/v1/knowledge/claims/922968

MCP

get_claim(id=922968)