[控场AI]
概念Retry Storm

重试风暴

分布式系统中的一种连锁故障模式:下游服务故障导致上游大量请求超时并触发重试,重试流量进一步加剧下游压力,形成正反馈循环,可导致局部故障演变为全局服务不可用

核心事实

时间轴 (近 90 天)

10月11日

智能体对同一个失败的工具调用反复重试的失控模式被称为「重试风暴」(retry storm)

待验证50%
8月29日

缓解重试风暴的策略包括指数退避、添加随机抖动、设置重试预算(如限制重试请求不超过总请求的10%)以及断路器模式

待验证50%
8月12日

P95表示95%的请求延迟低于该值,P99表示99%的请求延迟低于该值,高分位数指标专门捕捉尾部延迟严重程度

已验证65%
8月9日

缺少指数退避时,服务端短暂不可用会导致所有失败客户端立即同时重试形成重试风暴,比原始流量更具破坏力

已验证65%

全部知识事实 (4)

来源文章