待验证50% 置信事实精确时间
在 LLM API 场景下，502/503 通常对应网关后端不可用或过载，504 对应推理排队超时，500 则多为内部异常。
1
来源数
50%
置信度
长期有效
时效性
2026/10/27
首次发现
来源
涉及实体
相关事实
待验证LLM 服务的故障模式比传统服务更宽，包括提供商整体不可用、区域限流、密钥配额耗尽、模型被静默升级导致输出质量漂移、延迟缓慢爬升而非直接报错，这些场景大多不会触发传统 5xx 告警。65% 相似待验证让LLM直接调用REST API会导致token消耗与延迟增加、上下文污染以及错误语义不友好（如HTTP 422状态码对LLM难以理解）三个实际问题。63% 相似待验证对于大模型 API，可重试错误包括 429 限流、500/503 等 5xx 错误及连接超时；不可重试错误包括 400 参数错误和 401 鉴权失败63% 相似待验证200状态码配合流中断或解析失败，可归因于中转站的计费/过滤中间件过载；502/504归因于中转站网关节点故障；429/401归因于并发控制失效或上游key余额耗尽。63% 相似待验证长度带将请求token数划分为离散区间（如<50、50-500、>500），而非连续值，因为路由决策对长度的敏感度是阶跃式的。60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1104096API
curl https://kongchang.com/api/v1/knowledge/claims/1104096MCP
get_claim(id=1104096)