待验证50% 置信事实精确时间
llm-retry的默认retry_on_http_codes列表中不包含529(overloaded_error)和408(请求超时),导致这些错误从不重试。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/19
首次发现
有效期至:2027/1/17
来源
涉及实体
相关事实
待验证在LLM调用中,400(请求格式错误)、401(密钥无效)等客户端错误不应触发切换到备用供应商,因为重发只会得到同样错误;连接失败、超时、429、5xx等供应商侧瞬时故障才应触发fallback。75% 相似待验证免费API重试应只针对429和503这类临时性错误,其他错误应直接抛出,避免盲目重试代码Bug69% 相似待验证设置DFLASH_TOKENS=15后,在20k上下文的引用请求中会导致引擎崩溃,报EngineDeadError和marlin_gemm分配失败,此后每个请求返回500,无法自愈。67% 相似待验证错误响应(如429或5xx)永远不应缓存,以便下次调用重新尝试65% 相似待验证该版本修复了后台任务产生超大规模失败输出时导致 API 请求体积超限而失败的问题65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1064751API
curl https://kongchang.com/api/v1/knowledge/claims/1064751MCP
get_claim(id=1064751)