待验证50% 置信基准精确时间
将llm-retry的max_attempts提升到8次后，100个调用全部通过，但耗时16.6秒，是理论下限的两倍多，且发送了375次请求。
1
来源数
50%
置信度
长期有效
时效性
2026/10/19
首次发现
来源
涉及实体
相关事实
待验证长上下文归档实验中8条请求各输入约261000+个Token、各完成约1022个输出，共同解码窗口总吞吐每秒214.85个Token，每请求约26.86，但窗口只有约2.28秒且预填充串行或交错78% 相似待验证客户端限流器按服务端补充速率分配发送时隙，在测试中实现100个全部成功、100次请求、0个429、最后一个答案在8.0秒完成。76% 相似待验证在遵守retry-after基础上叠加全抖动后，最后一个调用在11.8秒完成，发送313次请求，p95为9.1秒，每项指标均优于两种退避公式。73% 相似待验证代码中的重试循环最多尝试 4 次，指数退避从 500 毫秒开始，并在服务提供 Retry-After 响应头时优先遵守该头部值。73% 相似待验证在4M TPM前提下，400K上下文的Agent长轮次每分钟最多可触发10个请求（触及TPM上限），满载上下文请求每分钟仅4个。71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1064738API
curl https://kongchang.com/api/v1/knowledge/claims/1064738MCP
get_claim(id=1064738)