待验证50% 置信事实精确时间

大多数公开API不暴露首Token延迟和每秒Token吞吐量这两个指标

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/12

首次发现

有效期至：2027/1/10

来源

LLM调用的真实成本：Token、精度与诚实的数字

涉及实体

APIconcept TTFTconcept

相关事实

待验证本地推理消除了每次API调用50-200毫秒的网络延迟70% 相似待验证确定性执行架构使首Token延迟（TTFT）和Token间延迟（ITL）的方差极小，可对外提供类似SLA的延迟承诺67% 相似待验证更少的输入Token通常意味着更低的处理延迟66% 相似待验证存算分离架构对缓存高度依赖，在服务重启、扩容或访问模式突变时缓存预热不足可能导致短时间内延迟飙升66% 相似待验证若外泄源于抓取，问题根源很可能在于API访问控制与速率限制（rate limiting）的不足65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1005219

API

curl https://kongchang.com/api/v1/knowledge/claims/1005219

MCP

get_claim(id=1005219)