待验证50% 置信事实精确时间
TTFT（首 Token 延迟）主要由提示处理（prefill）阶段决定，与输入 token 数量近似线性相关。
1
来源数
50%
置信度
长期有效
时效性
2026/10/16
首次发现
来源
本地LLM构建MCP服务器：工具粒度与延迟陷阱
rss2026/10/16
涉及实体
相关事实
待验证首Token延迟（TTFT）指从用户按下回车到屏幕出现第一个字符之间的间隔，是决定交互式使用体验的关键指标76% 相似待验证流式处理要求STT、LLM、TTS三段全部以增量方式工作；VAD用于判断用户是否说完，其灵敏度设置是延迟与误打断之间的权衡；打断机制要求用户中途插话时系统立即停止当前TTS播放并清空后续推理队列。69% 相似待验证跨请求复用相同上下文前缀的KV缓存可以削减prefill阶段的重复计算，从而降低首字延迟（TTFT）68% 相似待验证解决状态漂移的常见架构模式包括设定状态有效期（TTL）并过期后强制刷新、引入事件驱动机制由外部系统主动推送状态变更、以及在关键决策前执行「读-校验-写」（read-validate-write）流程65% 相似待验证从中间节点重放执行的能力关键在于 LLM 调用存在延迟且通常按 token 计费，可避免每次从头运行整个流程64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1044834API
curl https://kongchang.com/api/v1/knowledge/claims/1044834MCP
get_claim(id=1044834)