HTTP 429
HTTP状态码,表示客户端在给定时间内发送了过多请求,通常伴随Retry-After头部,需切换备用模型或等待配额重置。
核心事实
时间轴 (近 90 天)
HTTP 429状态码表示请求过多,即限流或配额不足,与400(参数错误)、401(密钥无效)属于不同层级的问题。
在AI推理服务语境下,'过载错误'通常指请求量超出系统当前可调度算力(GPU/TPU资源、显存带宽或并发连接池)时返回的一类错误,常见形态包括HTTP 429或503,部分平台使用自定义错误码。
当美元/分钟限额被触发并锁存时,网关应返回429状态码并附带Retry-After头,告知客户端何时可以重试。
在 CrewAI 或 LangGraph 等智能体框架中,未处理的 HTTP 429 会立即终止整个执行运行,破坏已积累的上下文并浪费 token 成本。
不同错误类型(如 429 限流与 500 内部错误)对应的重试策略和降级方案截然不同。
免费层级通常有速率限制(如RPM、TPM、RPD)、上下文长度限制或功能限制,触发后通常返回HTTP 429。
HTTP 503表示提供商一侧暂时不可用,通常与调用频率无关;429表示调用方超出单位时间配额,响应头常带Retry-After。503适合指数退避重试,429更适合切换备用模型或延后到下一周期。
HTTP 429表示客户端在给定时间内发送了过多请求,通常伴随Retry-After头指示重试等待时间。
静默丢弃数据的接收方比直接拒绝数据的接收方更糟糕,因为429状态码能告诉发送方重试。
429(Too Many Requests)错误表示超出速率限制或配额,通常需要等待。
还有 29 条时间轴事件
全部知识事实 (20)
故障转移架构中应区分值得重试的错误(429、5xx、超时)和不该重试的错误(400参数错误、401鉴权失败)
65%已验证HTTP 429响应中的Retry-After头由服务器告知客户端需等待的秒数,优先读取该值优于自行计算
65%已验证HTTP 429状态码(Too Many Requests)是服务端实施速率限制的标准响应机制
65%待验证应重试的 HTTP 状态码包括:429、502、503、504,以及连接重置、超时等网络层故障。
60%待验证指数退避是客户端在重试失败请求时逐次拉长等待间隔的策略,主要应对限流(HTTP 429)和下游服务短暂不可用两类问题,相比固定间隔重试能显著降低对已过载服务的压力。
60%待验证HTTP 429状态码表示请求过多,即限流或配额不足,与400(参数错误)、401(密钥无效)属于不同层级的问题。
50%待验证在AI推理服务语境下,'过载错误'通常指请求量超出系统当前可调度算力(GPU/TPU资源、显存带宽或并发连接池)时返回的一类错误,常见形态包括HTTP 429或503,部分平台使用自定义错误码。
50%待验证当美元/分钟限额被触发并锁存时,网关应返回429状态码并附带Retry-After头,告知客户端何时可以重试。
50%待验证在 CrewAI 或 LangGraph 等智能体框架中,未处理的 HTTP 429 会立即终止整个执行运行,破坏已积累的上下文并浪费 token 成本。
50%待验证不同错误类型(如 429 限流与 500 内部错误)对应的重试策略和降级方案截然不同。
50%待验证免费层级通常有速率限制(如RPM、TPM、RPD)、上下文长度限制或功能限制,触发后通常返回HTTP 429。
50%待验证HTTP 503表示提供商一侧暂时不可用,通常与调用频率无关;429表示调用方超出单位时间配额,响应头常带Retry-After。503适合指数退避重试,429更适合切换备用模型或延后到下一周期。
50%待验证静默丢弃数据的接收方比直接拒绝数据的接收方更糟糕,因为429状态码能告诉发送方重试。
50%待验证HTTP 429表示客户端在给定时间内发送了过多请求,通常伴随Retry-After头指示重试等待时间。
50%待验证429(Too Many Requests)错误表示超出速率限制或配额,通常需要等待。
50%待验证AWS Bedrock文档建议对503进行重试,429则需检查限流配置,因为Bedrock的配额与IAM策略关联。
50%待验证OpenAI的429错误可能由速率限制或配额耗尽引起,配额耗尽错误(如 insufficient_quota)不应重试。
50%待验证开发中作者收到 HTTP 413 和 429 错误,修复策略分三步:减少单次请求量(一次只处理一个游戏的一个语言组)、限制 max_tokens、请求之间等待 70 秒(空闲时 240 秒)。
50%待验证TTS 服务通常按分钟限制请求数,超限会返回 429 Too Many Requests。
50%待验证符合 HTTP 语义的服务在返回 429 时往往附带 Retry-After 响应头,指明建议等待秒数,客户端应优先遵循该值。
50%