Redis和Lua实现分布式限流器
本篇文章为大家展示了Redis和Lua实现分布式限流器,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。
原理
计数器算法是指在一段窗口时间内允许通过的固定数量的请求, 比如10次/秒, 500次/30秒.
如果设置的时间粒度越细, 那么限流会更平滑.
实现
所使用的 Lua 脚本
--计数器限流--此处支持的最小单位时间是秒,若将expire改成pexpire则可支持毫秒粒度.--KEYS[1]string限流的key--ARGV[1]int限流数--ARGV[2]int单位时间(秒)localcnt=tonumber(redis.call("incr",KEYS[1]))if(cnt==1)then--cnt值为1说明之前不存在该值,因此需要设置其过期时间redis.call("expire",KEYS[1],tonumber(ARGV[2]))elseif(cnt>tonumber(ARGV[1]))thenreturn-1endreturncnt
返回 -1 表示超过限流, 否则返回当前单位时间已通过的请求数
key 可以但不限于以下的情况
ip + 接口
user_id + 接口
优点
实现简单
缺点
粒度不够细的情况下, 会出现在同一个窗口时间内出现双倍请求数
注意
尽量保持时间粒度精细
场景分析
eg. 1000/3s 的限流
极端情况1:
第1秒请求数 10
第2秒请求数 10
第3秒请求数 980
第4秒请求数 900
第5秒请求数 100
第6秒请求数 0
此时注意第3~5秒内的总请求数高达 1980
极端情况2:
第1秒请求数 1000
第2秒请求数 0
第3秒请求数 0
此时后续的第2~3秒会出现大量拒绝请求
令牌桶模式
原理
令牌桶的
桶中保存有令牌, 存在上限, 且一开始是满的
每次请求都要消耗令牌(可根据不同请求消耗不同数量的令牌)
每隔一段时间(固定速率)会往桶中放令牌
桶的实现还分为:
可预消费
提前预支令牌数: 前人挖坑, 后人跳
不可预消费
令牌数不够直接拒绝
实现
此处实现的不可预消费的令牌桶, 具体Lua代码:
--令牌桶限流:不支持预消费,初始桶是满的--KEYS[1]string限流的key--ARGV[1]int桶最大容量--ARGV[2]int每次添加令牌数--ARGV[3]int令牌添加间隔(秒)--ARGV[4]int当前时间戳localbucket_capacity=tonumber(ARGV[1])localadd_token=tonumber(ARGV[2])localadd_interval=tonumber(ARGV[3])localnow=tonumber(ARGV[4])--保存上一次更新桶的时间的keylocalLAST_TIME_KEY=KEYS[1].."_time";--获取当前桶中令牌数localtoken_cnt=redis.call("get",KEYS[1])--桶完全恢复需要的最大时长localreset_time=math.ceil(bucket_capacity/add_token)*add_interval;iftoken_cntthen--令牌桶存在--上一次更新桶的时间locallast_time=redis.call('get',LAST_TIME_KEY)--恢复倍数localmultiple=math.floor((now-last_time)/add_interval)--恢复令牌数localrecovery_cnt=multiple*add_token--确保不超过桶容量localtoken_cnt=math.min(bucket_capacity,token_cnt+recovery_cnt)-1iftoken_cnt<0thenreturn-1;end--重新设置过期时间,避免key过期redis.call('set',KEYS[1],token_cnt,'EX',reset_time)redis.call('set',LAST_TIME_KEY,last_time+multiple*add_interval,'EX',reset_time)returntoken_cntelse--令牌桶不存在token_cnt=bucket_capacity-1--设置过期时间避免key一直存在redis.call('set',KEYS[1],token_cnt,'EX',reset_time);redis.call('set',LAST_TIME_KEY,now,'EX',reset_time+1);returntoken_cntend
令牌桶的关键是以下几个参数:
桶最大容量
每次放入的令牌数
放入令牌的间隔时间
令牌桶的实现不会出现计数器模式中单位时间内双倍流量的问题.
上述内容就是Redis和Lua实现分布式限流器,你们学到知识或技能了吗?如果还想学到更多技能或者丰富自己的知识储备,欢迎关注亿速云行业资讯频道。
声明:本站所有文章资源内容,如无特殊说明或标注,均为采集网络资源。如若本站内容侵犯了原著者的合法权益,可联系本站删除。