概念Token Bucket
令牌桶
一种限流算法，以固定速率向桶中放入令牌，每个请求消耗一枚令牌，桶容量决定允许的突发流量上限，适合容忍短时尖峰的场景
核心事实
时间轴 (近 90 天)
10月19日
令牌桶允许透支：两个线程同时取令牌时，第二个会睡得更久，从而缩短锁持有时间并保持正确节奏。
待验证50%
10月18日
外部API限流表现为返回429状态码或特定的配额错误，需要在客户端做令牌桶式的速率控制。
待验证50%
10月17日
令牌桶限流算法能以固定速率补充令牌，允许一定程度的突发流量。
待验证50%
10月17日
分布式部署中令牌状态需存于Redis等共享存储并以原子操作更新，否则多实例各自计数会导致实际放行量远超预期。
待验证50%
10月11日
对于LangGraph、AutoGen、CrewAI等多智能体框架，各智能体节点调用常在同一事件循环中并发触发，引入令牌桶或漏桶算法的速率限制器尤为必要
待验证50%
全部知识事实 (7)
已验证
令牌桶允许令牌积累充足时进行短时突发，而漏桶以恒定速率输出请求，这是两者核心区别
70%待验证令牌桶（Token Bucket）算法在AI SaaS场景中最为常用，因为它既能限制平均速率又允许合理的突发请求
70%待验证令牌桶允许透支：两个线程同时取令牌时，第二个会睡得更久，从而缩短锁持有时间并保持正确节奏。
50%待验证外部API限流表现为返回429状态码或特定的配额错误，需要在客户端做令牌桶式的速率控制。
50%待验证令牌桶限流算法能以固定速率补充令牌，允许一定程度的突发流量。
50%待验证分布式部署中令牌状态需存于Redis等共享存储并以原子操作更新，否则多实例各自计数会导致实际放行量远超预期。
50%待验证对于LangGraph、AutoGen、CrewAI等多智能体框架，各智能体节点调用常在同一事件循环中并发触发，引入令牌桶或漏桶算法的速率限制器尤为必要
50%