限流策略 | Mikez Namespace

限流是保护系统资源，防止服务过载的重要手段。通过限流，系统能够在高并发的情况下保证稳定性，防止因流量突增导致的性能下降或服务崩溃。以下是几种常见的限流策略：

1. 固定窗口限流（Fixed Window Rate Limiting）

原理：将时间划分为固定大小的窗口（如 1 秒或 1 分钟），在每个窗口内统计请求的数量。如果超过了规定的限制，则拒绝后续的请求。
优点：实现简单，适合处理突发流量。
缺点：在窗口边界可能出现流量突增（即时间窗口切换时，可能瞬间允许大量请求通过）。

2. 滑动窗口限流（Sliding Window Rate Limiting）

原理：与固定窗口不同，滑动窗口将时间划分为多个小区间，并在这些小区间上移动窗口，动态计算一定时间内的请求数量。
优点：更加精细化，能平滑处理流量。
缺点：实现复杂度较高，资源开销大。

3. 令牌桶算法（Token Bucket）

原理：系统以固定速率生成令牌并存储在一个“桶”里，每次请求需要消耗一个令牌才能通过。如果桶里的令牌数量不足，请求就会被拒绝或延迟处理。
优点：允许一定的流量突发，适合处理突发流量和平均流量限制。
缺点：在高并发下，可能出现令牌消耗过快的问题。

4. 漏桶算法（Leaky Bucket）

原理：请求像水滴一样注入“桶”中，桶以固定速率漏水。如果桶满了，后续的请求将被拒绝或排队等待。
优点：可以平滑地处理请求流量，适用于需要严格控制请求速率的场景。
缺点：不允许突发流量，通过速率是固定的。

5. 并发数限制

原理：限制系统中同时处理的请求数量，如果超过这个限制，新的请求要么被拒绝，要么被放入等待队列。
优点：直接控制系统的并发压力，防止系统资源耗尽。
缺点：可能导致高延迟或者请求丢弃。

6. 基于优先级的限流

原理：根据请求的优先级进行限流，高优先级的请求可以优先通过限流检查，而低优先级的请求可能会被限制。
优点：适合有不同重要性请求的系统，可以保证关键业务的流畅。
缺点：需要设计合理的优先级策略，可能增加系统复杂性。

7. 分布式限流

原理：在分布式系统中，限流策略需要跨多个节点协作进行。可以使用集中式组件（如 Redis、Etcd）来记录全局的限流状态。
优点：适合微服务架构和分布式系统，可以全局控制流量。
缺点：实现较为复杂，可能引入一定的网络延迟。

8. 动态限流

原理：根据系统的实时负载和状态（如 CPU 使用率、响应时间等）动态调整限流策略。
优点：适应性强，可以根据实际情况调整限流策略，最大化资源利用率。
缺点：需要复杂的监控和决策机制，可能导致波动和不稳定。

实践建议

监控和告警：任何限流策略都需要与监控结合，实时监控流量情况，并在达到或接近限流阈值时触发告警。
限流策略组合：可以组合多种限流策略，比如使用令牌桶来处理突发流量，结合固定窗口限流控制整体流量。
灰度发布：在生产环境下使用限流策略时，可以先进行灰度发布，逐步增加限流范围，确保系统稳定性。