[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
TTFT / Time to First Token
首Token延迟
LLM推理性能指标,指从API请求发出到接收到第一个输出Token的时间间隔,反映模型预处理与调度开销,是衡量用户体验响应速度的关键度量之一。
来源文章
LLM调用的真实成本:Token、精度与诚实的数字
10月12日