考察点:限流算法对比、单机 vs 分布式、限流后的处理。网关第一考点。
要点:
1. 固定窗口计数:按时间窗口计数,简单但存在临界问题——窗口交界处(如 0:59 与 1:00)可放行 2 倍流量;
2. 滑动窗口:把窗口切成多个小格并滚动统计,平滑度提升,内存与精度可调(Sentinel 采用);
3. 漏桶(Leaky Bucket):请求进桶、以恒定速率流出,桶满则拒绝。输出速率绝对平滑,适合「必须匀速」的下游(脆弱的老系统、第三方限速接口);但无法应对突发流量(即使桶空也不能一次放行多个);
4. 令牌桶(Token Bucket):以恒定速率往桶里放令牌,桶有容量上限(决定突发容忍度),请求取到令牌才放行。允许一定程度的突发(桶里攒了 100 个令牌就能瞬间放行 100 个),实际业务中最常用(Guava RateLimiter、Nginx limit_req 都基于此)。
- 单机限流(Bucket 在进程内存):实现简单、无额外依赖、性能最好;问题:集群 N 台时阈值变成 N 倍,且流量分布不均(某台被压垮而其他台空闲)。要用单机阈值 = 总阈值 / 实例数 并接受不均;
- 分布式限流:① Redis + Lua 做原子计数/令牌桶(INCRBY + 过期时间,或 CL.THROTTLE 这类模块)——精度高,但每次限流判断都打一次 Redis,Redis 成为热点与单点,需做分片降级;② 网关层集中限流(Nginx/APISIX/Kong 的集群模式),把压力收敛到入口;③ 滑动窗口 + 本地批量预取令牌(每次从 Redis 预取一批令牌在本地用),降低 Redis 压力、容忍少量误差——这是生产上精度与性能的常见折中。
Retry-After(比 500 更规范,客户端能正确退避);区分拒绝策略——排队等待(如 MQ)、快速失败、降级返回兜底数据(推荐列表降级为热门、详情降级为缓存);按维度限流:IP、用户、接口、租户、API Key——多维组合往往比单维更合理(如「用户 10 QPS 且 接口全局 1000 QPS」)。题目与答案就在本页;收藏、批注和错题重练在应用内