待验证50% 置信事实精确时间
TPM统计每个请求消耗的Token总量，由输入Token与输出Token相加得出；输入Token包括用户消息、系统提示、工具定义及上文Agent轮次中回传的全部对话历史，输出Token包括可见文本和推理Token。
1
来源数
50%
置信度
长期有效
时效性
2026/10/15
首次发现
来源
Muse Wonder速率限制解析：3000 RPM与400万TPM共享配额
rss2026/10/15
涉及实体
相关事实
待验证每 token 生成时间（TPOT）衡量模型在自回归解码阶段逐个生成 token 的速度73% 相似待验证吞吐量通常以每秒生成的词元数（tokens/s）衡量，决定系统能同时服务多少并发请求66% 相似待验证LLM推理延迟通常细分为首Token延迟（TTFT, Time To First Token）和每Token生成时间（TPOT, Time Per Output Token）64% 相似待验证该工具提供Token用量查看功能，用户可实时监控消耗情况64% 相似待验证对于单用户交互式场景推理速度达到5-10 token/s通常就能提供流畅体验，而代码生成、长文档摘要或多轮Agent调用往往需要30 token/s以上63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1034045API
curl https://kongchang.com/api/v1/knowledge/claims/1034045MCP
get_claim(id=1034045)