IT 面试题库

API 网关的性能瓶颈通常出在哪里?超时与重试该怎么配置才不会放大故障?

高级故障排查题后端架构师架构师SRE站点可靠性工程师API网关性能超时重试熔断

题目

考察点:网关自身资源、连接管理、重试风暴。网关是单点,配错就是全局故障。

参考答案

内容深度:详细 · 无代码示例 · 来源:外部链接 · 未复核 · 70 天前更新 · 技术内容可能随版本变化,建议结合官方文档理解

要点:

1. 线程模型选错:同步阻塞模型(每请求占一个线程)在长连接/慢下游场景下线程池瞬间打满 → 应选异步非阻塞(Spring Cloud Gateway 基于 Netty、Nginx/Envoy 事件驱动);

2. 下游连接管理:没配连接池/长连接复用,每个请求都三次握手 + TLS 握手(TLS 握手的 CPU 开销尤其大);连接池过小会排队,过大则把下游打爆——要与下游容量匹配;

3. DNS 解析:每次转发都重新解析域名(Java 默认 DNS 缓存策略可能不生效),导致解析成为瓶颈;需配 DNS 缓存或走服务发现直连 IP;

4. TLS 加解密 CPU:QPS 高时 TLS 握手与对称加密吃 CPU,需开硬件加速/会话复用(session tickets、TLS 1.3 的 0-RTT);

5. 日志与插件开销:INFO 级别打印完整请求体/响应体、同步写磁盘日志、每个请求跑多个重插件(鉴权 + 加密 + 转换)——网关日志必须异步且采样;

6. 转发链过长:网关 → BFF → 服务,每跳都加延迟与故障面,应尽量扁平。

- 超时必须分层设置且外层大于内层(客户端超时 > 网关超时 > 下游服务超时),否则外层先超时断开,内层还在跑——资源白耗;

- 设置连接超时(短,如 1s,连不上就快速失败)与读超时(按业务 P99 定,如 3s)两个,很多框架默认读超时是无限的,这是打爆网关的常见原因;

- 区分接口类型:查询接口短超时;导出/报表类长超时并单独走异步任务返回。

- 重试会放大流量——下游已过载时,重试会让流量变成 2 倍、3 倍,把「小抖动」变成「雪崩」;

- 铁律:① 只在幂等请求上重试(GET/PUT,或带幂等键的 POST);② 限制次数(1–2 次)与总预算(含重试的总耗时不超过上游超时);③ 退避 + 抖动(exponential backoff with jitter),避免所有实例同时重试(惊群);④ 熔断联动——熔断器打开时禁止重试,且重试不该绕过熔断;⑤ 重试要能中止(上游已断开则不再重试);

- 不要在多层同时重试(网关重试 + 服务重试 + SDK 重试 = 3 次方放大),只在最靠近故障点的一层重试。

练这道题

同分类 · 高频题

题目与答案就在本页;收藏、批注和错题重练在应用内

这道题看完了?连刷同类题,趁热打铁效果最好 进入刷题