[控场AI]
概念TTFT / Time to First Token

首Token延迟

LLM推理性能指标,指从API请求发出到接收到第一个输出Token的时间间隔,反映模型预处理与调度开销,是衡量用户体验响应速度的关键度量之一。

来源文章