IT 面试题库

API 网关的限流算法有哪些?令牌桶和漏桶的区别是什么?分布式环境下怎么落地?

中级简答题后端架构师架构师后端开发工程师API网关限流令牌桶漏桶分布式限流

题目

考察点:限流算法对比、单机 vs 分布式、限流后的处理。网关第一考点。

参考答案

内容深度:详细 · 无代码示例 · 来源:外部链接 · 未复核 · 70 天前更新 · 技术内容可能随版本变化,建议结合官方文档理解

要点:

1. 固定窗口计数:按时间窗口计数,简单但存在临界问题——窗口交界处(如 0:59 与 1:00)可放行 2 倍流量;

2. 滑动窗口:把窗口切成多个小格并滚动统计,平滑度提升,内存与精度可调(Sentinel 采用);

3. 漏桶(Leaky Bucket):请求进桶、以恒定速率流出,桶满则拒绝。输出速率绝对平滑,适合「必须匀速」的下游(脆弱的老系统、第三方限速接口);但无法应对突发流量(即使桶空也不能一次放行多个);

4. 令牌桶(Token Bucket):以恒定速率往桶里放令牌,桶有容量上限(决定突发容忍度),请求取到令牌才放行。允许一定程度的突发(桶里攒了 100 个令牌就能瞬间放行 100 个),实际业务中最常用(Guava RateLimiter、Nginx limit_req 都基于此)。

- 单机限流(Bucket 在进程内存):实现简单、无额外依赖、性能最好;问题:集群 N 台时阈值变成 N 倍,且流量分布不均(某台被压垮而其他台空闲)。要用单机阈值 = 总阈值 / 实例数 并接受不均;

- 分布式限流:① Redis + Lua 做原子计数/令牌桶(INCRBY + 过期时间,或 CL.THROTTLE 这类模块)——精度高,但每次限流判断都打一次 Redis,Redis 成为热点与单点,需做分片降级;② 网关层集中限流(Nginx/APISIX/Kong 的集群模式),把压力收敛到入口;③ 滑动窗口 + 本地批量预取令牌(每次从 Redis 预取一批令牌在本地用),降低 Redis 压力、容忍少量误差——这是生产上精度与性能的常见折中。

练这道题

同分类 · 高频题

题目与答案就在本页;收藏、批注和错题重练在应用内

这道题看完了?连刷同类题,趁热打铁效果最好 进入刷题