待验证50% 置信基准精确时间
在4M TPM前提下,400K上下文的Agent长轮次每分钟最多可触发10个请求(触及TPM上限),满载上下文请求每分钟仅4个。
1
来源数
50%
置信度
长期有效
时效性
2026/10/15
首次发现
来源
Muse Wonder速率限制解析:3000 RPM与400万TPM共享配额
rss2026/10/15
涉及实体
相关事实
待验证一个需要20次LLM调用、每次生成200个Token的Agent任务,在30 TPS下需要约133秒完成,在300 TPS下仅需13秒80% 相似待验证短对话轮次约消耗 1300 Token/请求,此时 RPM 限制(3000)先于 TPM 限制(400 万)触发;长上下文场景下 TPM 成为瓶颈。75% 相似已验证供应商的速率限制通常在每分钟请求数(RPM)、每分钟 Token 数(TPM)、每天 Token 数(TPD)三个维度同时生效74% 相似待验证并发场景下多个请求会平均分摊生成速度,例如单请求40 token/s时4并发下每个约10 token/s74% 相似待验证一个Agent的总Token消耗可能达到50K-100K,而同样的对话在Chat模式下可能只需要5K72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1034047API
curl https://kongchang.com/api/v1/knowledge/claims/1034047MCP
get_claim(id=1034047)