调整 IP 级别的 QPS(Queries Per Second)限制策略,核心不在于“改代码”,而在于架构设计时的流量治理思路以及对云原生网关/负载均衡器配置能力的深度理解。
很多初级运维或开发容易陷入一个误区:认为 QPS 限制就是简单地在 Nginx 或者 API 网关里写一行 limit_req。这没错,但不够。在生产环境中,尤其是面对国内主流云厂商(阿里云、腾讯云、华为云等)的架构时,需要根据业务类型做差异化处理。
以下是我基于实际落地经验总结的调整策略,分为场景分类、技术实现路径和避坑指南三个部分。
一、 先明确:你的业务属于哪一类?
IP 级限流通常用于保护后端服务不被恶意攻击或突发流量打垮。但在不同业务场景下,“合理”的定义完全不同:
-
高频交易/秒杀类(如电商抢购、票务)
- 特征:瞬时并发极高,用户行为集中,极易被刷单或爬虫攻击。
- 策略重点:严格隔离 + 极短窗口。
- 做法:这类业务不能只靠 IP 限流,必须结合 Redis 分布式计数。对于 IP 级别,建议设置较严格的阈值(例如 5-10 QPS),且采用滑动窗口算法而非固定窗口,防止边界突发。
-
常规 Web/API 服务(如资讯浏览、后台管理、普通 CRUD)
- 特征:流量平稳,用户行为分散,主要目的是防止个别异常账号或机器人大规模爬取数据。
- 策略重点:分级限额 + 白名单机制。
- 做法:区分内部 IP(服务器间调用)和外部 IP。内部 IP 通常不设限或设极高阈值;外部 IP 根据 User-Agent 或接口敏感程度动态调整。
-
物联网/设备上报类(IoT 数据接入)
- 特征:连接数巨大,每个设备的 QPS 极低(可能几秒才报一次),但总量极大。
- 策略重点:基于 Token Bucket(令牌桶)而非 Leaky Bucket(漏桶)。
- 做法:IoT 场景更适合令牌桶,允许一定的突发流量。如果只用简单的 IP 限流,很容易误伤正常设备在开机瞬间的上报高峰。
-
CDN 提速/静态资源类
- 特征:请求量大,但计算成本低,主要是带宽压力。
- 策略重点:带宽与 QPS 双重控制。
- 做法:此时单纯限制 QPS 意义不大,因为一个图片请求就是一个 QPS。应更关注带宽峰值和回源频率限制。
二、 技术实现路径:从边缘到内核
在国内云环境下,我们通常有三层防线可以配置 QPS 限制,越靠前,成本越低,效果越好。
1. 第一道防线:云厂商 WAF / DDoS 防护(推荐首选)
如果你使用的是阿里云、腾讯云等,不要自己造轮子,直接用他们提供的 WAF(Web Application Firewall)或高防 IP 功能。
- 优势:清洗发生在流量到达你的服务器之前,节省带宽和 CPU。
- 配置技巧:
- 自定义规则:大多数云 WAF 支持自定义 CC 防护规则。你可以针对特定 URL 路径(如
/api/login)设置 IP 级频率限制。 - 智能阈值:开启“自动学习”模式。云厂商会根据历史基线动态调整阈值,比死板地写
10 qps更准确。 - 验证码联动:当检测到某个 IP 超过阈值但未达到封禁线时,弹出验证码。这是平衡用户体验和安全性的最佳实践。
- 自定义规则:大多数云 WAF 支持自定义 CC 防护规则。你可以针对特定 URL 路径(如
2. 第二道防线:SLB / ALB / NLB(负载均衡层)
如果你的架构没有上 WAF,或者需要在应用层做精细控制,可以在负载均衡器层面配置。
- 阿里云 SLB / 腾讯云 CLB:
- 这些产品本身不直接提供细粒度的“每 IP 每秒 X 次”的配置界面(除非是企业版高级特性)。
- workaround :通常配合后端 ECS 上的 Nginx 或网关使用。但你可以利用 SLB 的健康检查和会话保持间接影响流量分布。
- 注意:云厂商的裸金属 LB 更多是做四层转发,七层限流能力较弱。如果需要强控,建议升级到应用型负载均衡(ALB/CLB)并启用其内置的限流插件(如有)。
3. 第三道防线:API 网关 / Nginx / 应用代码(最后兜底)
这是最灵活但也最消耗资源的一层。
-
Nginx (
limit_req):http { limit_req_zone $binary_remote_addr zone=ip_limit:10m rate=10r/s; server { location /api/ { limit_req zone=ip_limit burst=20 nodelay; proxy_pass http://backend; } } }- 关键点:
burst参数非常重要。它允许一定程度的突发流量排队,而不是直接返回 503。nodelay表示立即处理超出限制的部分,否则也会排队。 - 缺点:单机 Nginx 的状态是内存级的,如果前端有多台 Nginx,它们之间无法共享状态,会导致限流失效(需要配合 Redis 做分布式限流)。
- 关键点:
-
Spring Cloud Gateway / Kong / APISIX:
- 这些现代网关原生支持基于 IP 的限流插件。
- APISIX/Kong 推荐使用 Redis Cluster 作为存储后端,实现真正的分布式 IP 限流。这对于多节点部署至关重要。
三、 实战中的“潜规则”与避坑指南
1. 如何识别真实的客户端 IP?
这是最容易出错的地方。如果前面有 CDN 或反向XX,$remote_addr 获取到的可能是 CDN 节点的 IP,而不是用户真实 IP。
- 解决方案:必须解析
X-Forwarded-For或X-Real-IP头部。 - 安全警告:防止用户伪造 Header。只在可信的后端XX(如云厂商的 SLB/WAF)信任这些 Header,在公网暴露的 Nginx 上要忽略不可信的 Header。
2. “白名单”机制不可或缺
不要把生产环境的数据库 IP、监控探针 IP、第三方回调地址 IP 纳入限流范围。
- 操作:在限流规则前加一个
if ($is_whitelist) { break; }或者直接配置排除列表。 - 国内云特色:阿里云的 ECS 内网 IP 段、腾讯云的 VPC 内网段,建议在网关层直接放行,避免不必要的判断开销。
3. 动态调整 vs 静态配置
业务是有波峰波谷的。黑五、双11 期间的 QPS 限制策略,绝不能和平时一样。
- 建议:将限流配置外置化(如存入 Nacos、Consul 或云厂商的配置中心)。
- 灰度发布:先对 1% 的流量开启严格限流,观察日志和错误率,再逐步放开。
4. 响应码的选择:429 vs 503
- 429 Too Many Requests:标准 HTTP 状态码,明确表示“请求过多”。前端可以据此显示“请稍后重试”,体验较好。
- 503 Service Unavailable:传统用法,但语义上是“服务暂时不可用”,可能被误解为系统故障。
- 建议:统一使用 429,并在 Response Header 中增加
Retry-After字段,告知客户端多久后可以重试。
四、 总结建议
- 能不用代码就不写代码:优先使用云厂商 WAF 的 CC 防护功能,那是性价比最高的 IP 级限流方案。
- 分布式必选 Redis:如果自建网关或 Nginx 集群,务必使用 Redis + Lua 脚本实现分布式计数器,避免单机限流失效。
- 区分内网络:内网服务调用尽量不设限或设宽松限制,重点保护公网入口。
- 监控先行:在实施限流前,先通过 Prometheus/Grafana 或云监控画出真实的 QPS 曲线,确定基线值。限流阈值建议设置为基线的 1.2-1.5 倍,留出余量。
最后提醒一点:限流不是银弹。它只能减缓攻击或过载的影响,不能解决业务逻辑本身的缺陷。如果后端接口性能瓶颈明显,应该优先优化 SQL、缓存命中率或代码逻辑,而不是单纯依赖限流来掩盖问题。
云技术博客