概念Leaky Bucket
漏桶算法
一种速率限制算法，请求进入队列后以固定速率流出，对突发流量具有平滑作用但不容许突发，常用于网络流量整形
时间轴 (近 90 天)
10月15日
LLM provider执行的是带短期速率平滑的令牌桶或漏桶算法，而非硬性每分钟批量计数器
待验证50%
10月14日
配额与限流层通常使用令牌桶或漏桶算法，计数器存放在Redis等高速缓存中，用原子操作保证并发下不超发。
待验证50%
一种速率限制算法，请求进入队列后以固定速率流出，对突发流量具有平滑作用但不容许突发，常用于网络流量整形
LLM provider执行的是带短期速率平滑的令牌桶或漏桶算法，而非硬性每分钟批量计数器
配额与限流层通常使用令牌桶或漏桶算法，计数器存放在Redis等高速缓存中，用原子操作保证并发下不超发。