一、什么是滑动窗口限流
滑动窗口限流是一种流量控制策略,用于控制在一定时间内允许执行的操作数量或请求频率。它的工作方式类似于一个滑动时间窗口,对每个时间窗口的请求数量进行计数,并根据预先设置的限流策略来限制或调节流量,通常包括以下几个要素:
时间窗口:限流的时间段,例如每秒、每分钟或每小时,窗口可以固定,也可以动态调整。
滑动窗口:在整个事件窗口内滑动的小窗口,用于计算当前时间段内的请求数量。
计数器:用于记录当前窗口内的请求数量数量。
限流策略:预先设定的限流规则,例如允许的最大请求数量,以及如何处理超出限制的请求(例如拒绝、延迟处理)等。
ps:目前主流的限流算法有令牌(Gateway、Ratelimiter)、漏桶(Nginx)、滑动窗口(Sentinel)。
二、为什么需要限流
防止滥用:通过限制每个用户或IP地址的请求频率,可以防止恶意用户或攻击者对系统进行滥用,例如DOS攻击。
防止过载:当大量请求同时到达系统时,如果系统无法合理地处理这些请求,可能会导致系统资源被耗尽,甚至崩溃。
三、工作原理
假设我们时间窗口设为每分钟,那么红色窗口内的时间段就是滑动窗口,如下图:
当时间窗口移动时,需要把上一个时间段中的请求数量给减掉,当有新请求或操作进来时,系统会检查窗口内的计数是否已满,如果没满,请求允许执行,反之触发限流策略,比如被拒绝或者进入等待队列。
就拿上图举个例子,当前时间为12:00,计数器为200个,也就是每分钟允许的请求数量为200个,当12点零59秒第201个请求进来了,那么会直接触发限流策略。假设到了12点一分零1秒,系统会把12点至12点零一分的请求数量给移除。
四、Redis实现滑动窗口限流
在Redis中,我们可以用ZSET来实现这个功能。
key可以为请求的资源名,例如根据ip限制访问资源流量,那么key就可以设置为资源名+ip地址,score为当前请求的时间戳,member建议用请求详情的hash进行存储(或者UUID、MD5),避免在并发时,时间戳一致出现score和member一样导致的幂等问题。
代码如下:
public class LimitWindows {
//计数器
private final static long limit = 100;
public boolean allowRequest(Jedis jedis,String key){
//当前时间
long currentTime = System.currentTimeMillis();
//窗口开始时间:当前时间-60s
long windowStart = System.currentTimeMillis() - 60*1000;
//删除窗口开始时间之前的所有数据
jedis.zremrangeByScore(key,"-inf",String.valueOf(windowStart));
//计算总请求数
long current = jedis.zcard(key);
//判断
if(current<limit){
//窗口足够则把当前请求加入
jedis.zadd(key,currentTime,String.valueOf(currentTime));
return true;
}
return false;
}
}
以上高并发下可能会出现原子性问题,那么我们可以考虑用LUA脚本实现:
public class LimitWindows {
//计数器
private final static long limit = 100;
public boolean allowRequest(Jedis jedis,String key){
//获取当前时间戳
long currentTime = System.currentTimeMillis();
String luaScript = "local window_start_time = ARGV[1] -ARGV[3]*1000 " +
" redis.call('ZREMRANGEBYSCORE',KEYS[1],'-inf',window_start_time) " +
" local now_request = redis.call('ZCARD',KEYS[1]) " +
" if now_request < tonumber(ARGV[2]) then " +
" redis.call('ZADD',KEYS[1],ARGV[1],ARGV[1]) " +
" return 1 " +
"else " +
" return 0 " +
" end ";
Object result = jedis.eval(luaScript, 1, key, String.valueOf(currentTime), String.valueOf(limit), String.valueOf(60));
return (long) result == 1;
}
}
ps:"-inf"在reids中表示负无穷,"+inf"表示正无穷