待验证50% 置信基准精确时间
在 200 个相同请求的基准测试中，直连供应商产生 200 次上游调用，而通过代理仅产生 1 次上游调用，199 个请求加入共享结果，最慢响应仍为 1.58 秒。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/18
首次发现
有效期至：2027/1/16
来源
LLM代理实测：200重复请求变1次，却发现30秒性能Bug
rss2026/10/18
涉及实体
相关事实
待验证共673次运行尝试：542次完成，97次因供应商速率限制停止（即HTTP 429，占14.4%），12次退回审查，10次请求修改，8次阻塞，2次崩溃，2次仍在进行中。71% 相似待验证在生成式AI领域，仅按每分钟请求数（RPM）执行限流是无效指标，因为一个携带大量上下文payload的请求可以消耗10万token，而另一个请求只消耗250 token。69% 相似待验证供应商同时按每分钟请求数和每分钟token数限流，即便是顶级模型也有状态不佳的时候。69% 相似待验证MIT的一项研究发现，潜在客户在提交咨询后5分钟内被联系到的转化率，是30分钟后才被联系到的21倍68% 相似待验证4.8倍这一数字指的是在单用户响应速度相同的点上，单GPU每秒处理的token总量之比，而非答案变快4.8倍或同时服务4.8倍用户68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1060934API
curl https://kongchang.com/api/v1/knowledge/claims/1060934MCP
get_claim(id=1060934)