相关文章推荐
从未表白的眼镜  ·  name 'device' is not ...·  3 月前    · 
深情的单杠  ·  typescript - Vue3 ...·  1 年前    · 
<parent>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-parent</artifactId>
        <version>2.0.2.RELEASE</version>
        <relativePath/> <!-- lookup parent from repository -->
</parent>
<dependency>
         <groupId>org.springframework.boot</groupId>
         <artifactId>spring-boot-starter-data-redis</artifactId>
</dependency>

二、application.properties中加入redis相关配置

# Redis数据库索引(默认为0)  
spring.redis.database=0  
# Redis服务器地址  
spring.redis.host=192.168.0.24  
# Redis服务器连接端口  
spring.redis.port=6379  
# Redis服务器连接密码(默认为空)  
spring.redis.password=  
# 连接池最大连接数(使用负值表示没有限制)  
spring.redis.pool.max-active=200  
# 连接池最大阻塞等待时间(使用负值表示没有限制)  
spring.redis.pool.max-wait=-1  
# 连接池中的最大空闲连接  
spring.redis.pool.max-idle=10 
# 连接池中的最小空闲连接  
spring.redis.pool.min-idle=0  
# 连接超时时间(毫秒)  
spring.redis.timeout=1000 

三、写一个redis配置类

其实现在就可以在代码中注入 RedisTemplate,为啥可以直接注入呢?先看下源码吧。下图为 RedisAutoConfiguration 类中的截图和代码:

@Configuration
@ConditionalOnClass(RedisOperations.class)
@EnableConfigurationProperties(RedisProperties.class)
@Import({ LettuceConnectionConfiguration.class, JedisConnectionConfiguration.class })
public class RedisAutoConfiguration {
    @Bean
    @ConditionalOnMissingBean(name = "redisTemplate")
    public RedisTemplate<Object, Object> redisTemplate(
            RedisConnectionFactory redisConnectionFactory) throws UnknownHostException {
        RedisTemplate<Object, Object> template = new RedisTemplate<>();
        template.setConnectionFactory(redisConnectionFactory);
        return template;
    @Bean
    @ConditionalOnMissingBean
    public StringRedisTemplate stringRedisTemplate(
            RedisConnectionFactory redisConnectionFactory) throws UnknownHostException {
        StringRedisTemplate template = new StringRedisTemplate();
        template.setConnectionFactory(redisConnectionFactory);
        return template;
       通过源码可以看出,SpringBoot自动帮我们在容器中生成了一个RedisTemplate和一个StringRedisTemplate。
  但是,这个RedisTemplate的泛型是<Object,Object>,写代码不方便,需要写好多类型转换的代码;我们需要一个泛型为<String,Object>形式的RedisTemplate。并且,这个RedisTemplate没有设置数据存在Redis时,key及value的序列化方式。
        看到这个@ConditionalOnMissingBean注解后,就知道如果Spring容器中有了RedisTemplate对象了,这个自动配置的RedisTemplate不会实例化。因此我们可以直接自己写个配置类,配置RedisTemplate。

重新配置一个RedisTemplate

package com.zxy.demo.redis;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.data.redis.connection.RedisConnectionFactory;
import org.springframework.data.redis.core.RedisTemplate;
import org.springframework.data.redis.serializer.Jackson2JsonRedisSerializer;
import org.springframework.data.redis.serializer.StringRedisSerializer;
import com.fasterxml.jackson.annotation.JsonAutoDetect;
import com.fasterxml.jackson.annotation.PropertyAccessor;
import com.fasterxml.jackson.databind.ObjectMapper;
 * redis配置类
 * @author ZENG.XIAO.YAN
 * @date   2018年6月6日
@Configuration
public class RedisConfig {
    @Bean
    @SuppressWarnings("all")
    public RedisTemplate<String, Object> redisTemplate(RedisConnectionFactory factory) {
        RedisTemplate<String, Object> template = new RedisTemplate<String, Object>();
        template.setConnectionFactory(factory);
        Jackson2JsonRedisSerializer jackson2JsonRedisSerializer = new Jackson2JsonRedisSerializer(Object.class);
        ObjectMapper om = new ObjectMapper();
        om.setVisibility(PropertyAccessor.ALL, JsonAutoDetect.Visibility.ANY);
        om.enableDefaultTyping(ObjectMapper.DefaultTyping.NON_FINAL);
        jackson2JsonRedisSerializer.setObjectMapper(om);
        StringRedisSerializer stringRedisSerializer = new StringRedisSerializer();
        // key采用String的序列化方式
        template.setKeySerializer(stringRedisSerializer);
        // hash的key也采用String的序列化方式
        template.setHashKeySerializer(stringRedisSerializer);
        // value序列化方式采用jackson
        template.setValueSerializer(jackson2JsonRedisSerializer);
        // hash的value序列化方式采用jackson
        template.setHashValueSerializer(jackson2JsonRedisSerializer);
        template.afterPropertiesSet();
        return template;

四、写一个Redis工具类

直接用RedisTemplate操作Redis,需要很多行代码,因此直接封装好一个RedisUtils,这样写代码更方便点。这个RedisUtils交给Spring容器实例化,使用时直接注解注入。
工具类代码如下:
package com.zxy.demo.redis;
import java.util.List;
import java.util.Map;
import java.util.Set;
import java.util.concurrent.TimeUnit;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.data.redis.core.RedisTemplate;
import org.springframework.stereotype.Component;
import org.springframework.util.CollectionUtils;
 * Redis工具类
 * @author ZENG.XIAO.YAN
 * @date   2018年6月7日
@Component
public final class RedisUtil {
    @Autowired
    private RedisTemplate<String, Object> redisTemplate;
    // =============================common============================
     * 指定缓存失效时间
     * @param key 键
     * @param time 时间(秒)
     * @return
    public boolean expire(String key, long time) {
        try {
            if (time > 0) {
                redisTemplate.expire(key, time, TimeUnit.SECONDS);
            return true;
        } catch (Exception e) {
            e.printStackTrace();
            return false;
     * 根据key 获取过期时间
     * @param key 键 不能为null
     * @return 时间(秒) 返回0代表为永久有效
    public long getExpire(String key) {
        return redisTemplate.getExpire(key, TimeUnit.SECONDS);
     * 判断key是否存在
     * @param key 键
     * @return true 存在 false不存在
    public boolean hasKey(String key) {
        try {
            return redisTemplate.hasKey(key);
        } catch (Exception e) {
            e.printStackTrace();
            return false;
     * 删除缓存
     * @param key 可以传一个值 或多个
    @SuppressWarnings("unchecked")
    public void del(String... key) {
        if (key != null && key.length > 0) {
            if (key.length == 1) {
                redisTemplate.delete(key[0]);
            } else {
                redisTemplate.delete(CollectionUtils.arrayToList(key));
    // ============================String=============================
     * 普通缓存获取
     * @param key 键
     * @returnpublic Object get(String key) {
        return key == null ? null : redisTemplate.opsForValue().get(key);
     * 普通缓存放入
     * @param key 键
     * @param value 值
     * @return true成功 false失败
    public boolean set(String key, Object value) {
        try {
            redisTemplate.opsForValue().set(key, value);
            return true;
        } catch (Exception e) {
            e.printStackTrace();
            return false;
     * 普通缓存放入并设置时间
     * @param key 键
     * @param value 值
     * @param time 时间(秒) time要大于0 如果time小于等于0 将设置无限期
     * @return true成功 false 失败
    public boolean set(String key, Object value, long time) {
        try {
            if (time > 0) {
                redisTemplate.opsForValue().set(key, value, time, TimeUnit.SECONDS);
            } else {
                set(key, value);
            return true;
        } catch (Exception e) {
            e.printStackTrace();
            return false;
     * @param key 键
     * @param delta 要增加几(大于0)
     * @return
    public long incr(String key, long delta) {
        if (delta < 0) {
            throw new RuntimeException("递增因子必须大于0");
        return redisTemplate.opsForValue().increment(key, delta);
     * @param key 键
     * @param delta 要减少几(小于0)
     * @return
    public long decr(String key, long delta) {
        if (delta < 0) {
            throw new RuntimeException("递减因子必须大于0");
        return redisTemplate.opsForValue().increment(key, -delta);
    // ================================Map=================================
     * HashGet
     * @param key 键 不能为null
     * @param item 项 不能为null
     * @returnpublic Object hget(String key, String item) {
        return redisTemplate.opsForHash().get(key, item);
     * 获取hashKey对应的所有键值
     * @param key 键
     * @return 对应的多个键值
    public Map<Object, Object> hmget(String key) {
        return redisTemplate.opsForHash().entries(key);
     * HashSet
     * @param key 键
     * @param map 对应多个键值
     * @return true 成功 false 失败
    public boolean hmset(String key, Map<String, Object> map) {
        try {
            redisTemplate.opsForHash().putAll(key, map);
            return true;
        } catch (Exception e) {
            e.printStackTrace();
            return false;
     * HashSet 并设置时间
     * @param key 键
     * @param map 对应多个键值
     * @param time 时间(秒)
     * @return true成功 false失败
    public boolean hmset(String key, Map<String, Object> map, long time) {
        try {
            redisTemplate.opsForHash().putAll(key, map);
            if (time > 0) {
                expire(key, time);
            return true;
        } catch (Exception e) {
            e.printStackTrace();
            return false;
     * 向一张hash表中放入数据,如果不存在将创建
     * @param key 键
     * @param item 项
     * @param value 值
     * @return true 成功 false失败
    public boolean hset(String key, String item, Object value) {
        try {
            redisTemplate.opsForHash().put(key, item, value);
            return true;
        } catch (Exception e) {
            e.printStackTrace();
            return false;
     * 向一张hash表中放入数据,如果不存在将创建
     * @param key 键
     * @param item 项
     * @param value 值
     * @param time 时间(秒) 注意:如果已存在的hash表有时间,这里将会替换原有的时间
     * @return true 成功 false失败
    public boolean hset(String key, String item, Object value, long time) {
        try {
            redisTemplate.opsForHash().put(key, item, value);
            if (time > 0) {
                expire(key, time);
            return true;
        } catch (Exception e) {
            e.printStackTrace();
            return false;
     * 删除hash表中的值
     * @param key 键 不能为null
     * @param item 项 可以使多个 不能为null
    public void hdel(String key, Object... item) {
        redisTemplate.opsForHash().delete(key, item);
     * 判断hash表中是否有该项的值
     * @param key 键 不能为null
     * @param item 项 不能为null
     * @return true 存在 false不存在
    public boolean hHasKey(String key, String item) {
        return redisTemplate.opsForHash().hasKey(key, item);
     * hash递增 如果不存在,就会创建一个 并把新增后的值返回
     * @param key 键
     * @param item 项
     * @param by 要增加几(大于0)
     * @return
    public double hincr(String key, String item, double by) {
        return redisTemplate.opsForHash().increment(key, item, by);
     * hash递减
     * @param key 键
     * @param item 项
     * @param by 要减少记(小于0)
     * @return
    public double hdecr(String key, String item, double by) {
        return redisTemplate.opsForHash().increment(key, item, -by);
    // ============================set=============================
     * 根据key获取Set中的所有值
     * @param key 键
     * @return
    public Set<Object> sGet(String key) {
        try {
            return redisTemplate.opsForSet().members(key);
        } catch (Exception e) {
            e.printStackTrace();
            return null;
     * 根据value从一个set中查询,是否存在
     * @param key 键
     * @param value 值
     * @return true 存在 false不存在
    public boolean sHasKey(String key, Object value) {
        try {
            return redisTemplate.opsForSet().isMember(key, value);
        } catch (Exception e) {
            e.printStackTrace();
            return false;
     * 将数据放入set缓存
     * @param key 键
     * @param values 值 可以是多个
     * @return 成功个数
    public long sSet(String key, Object... values) {
        try {
            return redisTemplate.opsForSet().add(key, values);
        } catch (Exception e) {
            e.printStackTrace();
            return 0;
     * 将set数据放入缓存
     * @param key 键
     * @param time 时间(秒)
     * @param values 值 可以是多个
     * @return 成功个数
    public long sSetAndTime(String key, long time, Object... values) {
        try {
            Long count = redisTemplate.opsForSet().add(key, values);
            if (time > 0)
                expire(key, time);
            return count;
        } catch (Exception e) {
            e.printStackTrace();
            return 0;
     * 获取set缓存的长度
     * @param key 键
     * @return
    public long sGetSetSize(String key) {
        try {
            return redisTemplate.opsForSet().size(key);
        } catch (Exception e) {
            e.printStackTrace();
            return 0;
     * 移除值为value的
     * @param key 键
     * @param values 值 可以是多个
     * @return 移除的个数
    public long setRemove(String key, Object... values) {
        try {
            Long count = redisTemplate.opsForSet().remove(key, values);
            return count;
        } catch (Exception e) {
            e.printStackTrace();
            return 0;
    // ===============================list=================================
     * 获取list缓存的内容
     * @param key 键
     * @param start 开始
     * @param end 结束 0 到 -1代表所有值
     * @return
    public List<Object> lGet(String key, long start, long end) {
        try {
            return redisTemplate.opsForList().range(key, start, end);
        } catch (Exception e) {
            e.printStackTrace();
            return null;
     * 获取list缓存的长度
     * @param key 键
     * @return
    public long lGetListSize(String key) {
        try {
            return redisTemplate.opsForList().size(key);
        } catch (Exception e) {
            e.printStackTrace();
            return 0;
     * 通过索引 获取list中的值
     * @param key 键
     * @param index 索引 index>=0时, 0 表头,1 第二个元素,依次类推;index<0时,-1,表尾,-2倒数第二个元素,依次类推
     * @return
    public Object lGetIndex(String key, long index) {
        try {
            return redisTemplate.opsForList().index(key, index);
        } catch (Exception e) {
            e.printStackTrace();
            return null;
     * 将list放入缓存
     * @param key 键
     * @param value 值
     * @param time 时间(秒)
     * @return
    public boolean lSet(String key, Object value) {
        try {
            redisTemplate.opsForList().rightPush(key, value);
            return true;
        } catch (Exception e) {
            e.printStackTrace();
            return false;
     * 将list放入缓存
     * @param key 键
     * @param value 值
     * @param time 时间(秒)
     * @return
    public boolean lSet(String key, Object value, long time) {
        try {
            redisTemplate.opsForList().rightPush(key, value);
            if (time > 0)
                expire(key, time);
            return true;
        } catch (Exception e) {
            e.printStackTrace();
            return false;
     * 将list放入缓存
     * @param key 键
     * @param value 值
     * @param time 时间(秒)
     * @return
    public boolean lSet(String key, List<Object> value) {
        try {
            redisTemplate.opsForList().rightPushAll(key, value);
            return true;
        } catch (Exception e) {
            e.printStackTrace();
            return false;
     * 将list放入缓存
     * @param key 键
     * @param value 值
     * @param time 时间(秒)
     * @return
    public boolean lSet(String key, List<Object> value, long time) {
        try {
            redisTemplate.opsForList().rightPushAll(key, value);
            if (time > 0)
                expire(key, time);
            return true;
        } catch (Exception e) {
            e.printStackTrace();
            return false;
     * 根据索引修改list中的某条数据
     * @param key 键
     * @param index 索引
     * @param value 值
     * @return
    public boolean lUpdateIndex(String key, long index, Object value) {
        try {
            redisTemplate.opsForList().set(key, index, value);
            return true;
        } catch (Exception e) {
            e.printStackTrace();
            return false;
     * 移除N个值为value
     * @param key 键
     * @param count 移除多少个
     * @param value 值
     * @return 移除的个数
    public long lRemove(String key, long count, Object value) {
        try {
            Long remove = redisTemplate.opsForList().remove(key, count, value);
            return remove;
        } catch (Exception e) {
            e.printStackTrace();
            return 0;
View Code

注意 : 设置下key和value的序列化方式,不然存到Redis的中数据看起来像乱码一下。

五、通过redisTemplate调用lua脚本 并打印调试信息到redis log

第一次写完lua时,想到的就是如何在应用调用脚本的时候,去调试脚本。在网上海搜了一把,能找到的有点相关的寥寥无几。

有一种方法是通过执行redis命令,调用redis客户端,加载lua脚本,然后出现基于命令行调试的交互界面,输入调试命令去调试脚本。如下:

在终端输入命令:redis-cli.exe --ldb --eval LimitLoadTimes.lua 1 mykey , myargv

--ldb:redis-cli.exe进行命令调试的必要参数

--eval:告诉redis客户端去加载Lua脚本,后面跟着的就是 lua脚本的路径(我是直接放在redis目录下),

1:传给Lua脚本的key的数量,我测试的时候是1

--mykey:自己传的一个key值,和前面的数量1对应

--myargv:自己传的除key外的参数,可以是多个

注,命令中的逗号不能忽略,并且前后要有一个空格

  回车,如上图,本来以为可以进入调试,结果等了半天,一直没有出现交互的命令行界面,找了好久,还是没找到办法,结果只好先暂停(如果有大神遇到这种情况,跪求解~~)。换一种调试方式,把调试信息打在redis日志上。

下面是我自己调用脚本时,打印调试信息的方式,如果有更好的方式,请不吝赐教。

1、选择redisTemplate序列化方式

首先,创建一个redisTemplate,具体代码就不说了,这个比较简单。要注意的是,需要设置redisTemplate的序列化方式,springBoot默认是基于java jdk的序列化。通过这种序列化后的参数传到Lua脚本是,是无法正常打印到redis日志的,会出现乱码,而且参数如果传的是一个Map或List的话,不方便解析。并且这种序列化占用的字节比较大。所以改成JSON序列化,用FastJson实现。

下面贴上redis序列化代码:

public class FastJsonRedisSerializer<T> implements RedisSerializer<T> {
    public static final Charset DEFAULT_CHARSET = Charset.forName("UTF-8");
    private Class<T> clazz;
    public FastJsonRedisSerializer(Class<T> clazz){
        super();
        this.clazz = clazz;
    @Override
    public byte[] serialize(T t) throws SerializationException {
        return ofNullable(t)
                .map(r -> JSON.toJSONString(r, SerializerFeature.WriteClassName).getBytes(DEFAULT_CHARSET))
                .orElseGet(() -> new byte[0]);
    @Override
    public T deserialize(byte[] bytes) throws SerializationException {
        return Optional.ofNullable(bytes)
                .map(t -> JSON.parseObject(new String(t, DEFAULT_CHARSET), clazz))
                .orElseGet(() -> null);

2、应用端加载脚本,并设置传递参数

  在springboot中,是用 DefaultRedisScript 类来加载脚本的,并设置相应的数据类型来接收lua脚本返回的数据,这个泛型类在使用时设置泛型是什么类型,脚本返回的结果就是用什么类型接收。注意,该类只接收4种类型的返回类型,之前没注意,还纳闷为什么出错,看源码才晓得,截图,如下:

在lua脚本中,有两个全局的变量,是用来接收redis应用端传递的键值和其它参数的,分别为KEYS、ARGV。

在应用端传递给KEYS时是一个数组列表,在lua脚本中通过索引方式获取数组内的值。

在应用端,传递给ARGV的参数比较灵活,可以是多个独立的参数,但对应到Lua脚本中是,统一用ARGV这个数组接收,获取方式也是通过数组下标获取。

下面贴上应用端的测试代码:

@Service(
"luaScriptService") public class LuaScriptServiceImpl implements LuaScriptService{ @Autowired private RedisTemplate<String,Object> redisTemplate1; private DefaultRedisScript<List> getRedisScript; @PostConstruct public void init(){ getRedisScript = new DefaultRedisScript<List>(); getRedisScript.setResultType(List.class); getRedisScript.setScriptSource(new ResourceScriptSource(new ClassPathResource("luascript/LimitLoadTimes.lua"))); @Override public void redisAddScriptExec(){ * List设置lua的KEYS List<String> keyList = new ArrayList(); keyList.add("count"); keyList.add("rate.limiting:127.0.0.1"); * 用Mpa设置Lua的ARGV[1] Map<String,Object> argvMap = new HashMap<String,Object>(); argvMap.put("expire",10000); argvMap.put("times",10); * 调用脚本并执行 List result = redisTemplate1.execute(getRedisScript,keyList, argvMap); System.out.println(result);

  代码中发送了两个key,还有一个map包装的argv,传递到Lua脚本中时,KEYS和ARGV接收到的是对象字符串,所以得用lua的库做相关的解码,我们发送的时候是用json序列化的,用Lua的库cjson可以转成json对象。下面贴上Lua脚本代码:

--获取KEY
local key1 = KEYS[1]
local key2 = KEYS[2]
-- 获取ARGV[1],这里对应到应用端是一个List<Map>.
--  注意,这里接收到是的字符串,所以需要用csjon库解码成table类型
local receive_arg_json =  cjson.decode(ARGV[1])
--返回的变量
local result = {}
--打印日志到reids
--注意,这里的打印日志级别,需要和redis.conf配置文件中的日志设置级别一致才行
redis.log(redis.LOG_DEBUG,key1)
redis.log(redis.LOG_DEBUG,key2)
redis.log(redis.LOG_DEBUG, ARGV[1],#ARGV[1])
--获取ARGV内的参数并打印
local expire = receive_arg_json.expire
local times = receive_arg_json.times
redis.log(redis.LOG_DEBUG,tostring(times))
redis.log(redis.LOG_DEBUG,tostring(expire))
--往redis设置值
redis.call("set",key1,times)
redis.call("incr",key2)
redis.call("expire",key2,expire)
--用一个临时变量来存放json,json是要放入要返回的数组中的
local jsonRedisTemp={}
jsonRedisTemp[key1] = redis.call("get",key1)
jsonRedisTemp[key2] = redis.call("get", key2)
jsonRedisTemp["ttl"] = redis.call("ttl",key2)
redis.log(redis.LOG_DEBUG, cjson.encode(jsonRedisTemp))
result[1] = cjson.encode(jsonRedisTemp) --springboot redistemplate接收的是List,如果返回的数组内容是json对象,需要将json对象转成字符串,客户端才能接收
result[2] = ARGV[1] --将源参数内容一起返回
redis.log(redis.LOG_DEBUG,cjson.encode(result)) --打印返回的数组结果,这里返回需要以字符返回
return result

3、设置日志级别

代码中,redis.log()函数向运日志中输出信息,这里要注意一下,函数里面设置的日志级别要和redis.conf配置文件中设置的日志级别一样才能正常打印到文件,这里我是设置成了deubg级别。这里可设置的级别有4种,分别如下:

  • redis.LOG_DEBUG
  • redis.LOG_VERBOSE
  • redis.LOG_NOTICE
  • redis.LOG_WARNING
  • 在应用端,我们设置接收返回的数据类型是List,所以在Lua脚本中,返回的类型用table与之对应,并且放到table变量中的内容,得是字符串,应用端才能通过反序列化,正常解析。下图是输出lua返回值的打印信息:

    public class LuaDemo {
        private final static String lua = "local num=redis.call('incr',KEYS[1])\n" +
                "if tonumber(num)==1 then\n" +
                "\tredis.call('expire',KEYS[1],ARGV[1])\n" +
                "\treturn 1\n" +
                "elseif tonumber(num)>tonumber(ARGV[2]) then\n" +
                "\treturn 0\n" +
                "else \n" +
                "\treturn 1\n" +
                "end";
         * 这是将脚本提取到外面为常量,用 jedis.evalsha()加载
        public static void main(String[] args) {
            Jedis jedis = RedisManager.getJedis();
            List<String> keys = new ArrayList<>();
            keys.add("ip:limit:127.0.0.1");
            List<String> arggs = new ArrayList<>();
            arggs.add("6000");
            arggs.add("10");
            String luaLoad = jedis.scriptLoad(lua);
            System.out.println(luaLoad);
            Object obj = jedis.evalsha(luaLoad,keys,arggs);
            System.out.println(obj);
         * 这是直接将脚本写死在代码中,用 jedis.eval()
        public static void method(){
            Jedis jedis = RedisManager.getJedis();
            String lua = "local num=redis.call('incr',KEYS[1])\n" +
                    "if tonumber(num)==1 then\n" +
                    "\tredis.call('expire',KEYS[1],ARGV[1])\n" +
                    "\treturn 1\n" +
                    "elseif tonumber(num)>tonumber(ARGV[2]) then\n" +
                    "\treturn 0\n" +
                    "else \n" +
                    "\treturn 1\n" +
                    "end";
            List<String> keys = new ArrayList<>();
            keys.add("ip:limit:127.0.0.1");
            List<String> arggs = new ArrayList<>();
            arggs.add("6000");
            arggs.add("10");
            Object obj = jedis.eval(lua,keys,arggs);
            System.out.println(obj);
    View Code
    

    六、Redis + Lua 限流

    基于Redis的限流系统的设计,主要会谈及限流系统中限流策略这个功能的设计;在实现方面,算法使用的是令牌桶算法来,访问Redis使用lua脚本。

    Lua 嵌入 Redis 优势: 

    减少网络开销: 不使用 Lua 的代码需要向 Redis 发送多次请求, 而脚本只需一次即可, 减少网络传输;
    原子操作: Redis 将整个脚本作为一个原子执行, 无需担心并发, 也就无需事务;
    复用: 脚本会永久保存 Redis 中, 其他客户端可继续使用.

    In computer networks, rate limiting is used to control the rate of traffic sent or received by a network interface controller and is used to prevent DoS attacks

    用我的理解翻译一下:限流是对系统的出入流量进行控制,防止大流量出入,导致资源不足,系统不稳定。

      限流系统是对资源访问的控制组件,控制主要的两个功能:限流策略熔断策略,对于熔断策略,不同的系统有不同的熔断策略诉求,有的系统希望直接拒绝、有的系统希望排队等待、有的系统希望服务降级、有的系统会定制自己的熔断策略,很难一一列举,所以本文只针对限流策略这个功能做详细的设计。

    针对限流策略这个功能,限流系统中有两个基础概念:资源和策略。

    资源 :或者叫稀缺资源,被流量控制的对象;比如写接口、外部商户接口、大流量下的读接口

    策略 :限流策略由限流算法和可调节的参数两部分组成

    熔断策略:超出速率阈值的请求处理策略,是我自己理解的一个叫法,不是业界主流的说法。

    2、限流算法

    限制瞬时并发数

    限制时间窗最大请求数

    2.1、限制瞬时并发数

    定义:瞬时并发数,系统同时处理的请求/事务数量

    优点:这个算法能够实现控制并发数的效果

    缺点:使用场景比较单一,一般用来对入流量进行控制

    java伪代码实现

    AtomicInteger atomic = new AtomicInteger(1)
    try {    
        if(atomic.incrementAndGet() > 限流数) {   
            //熔断逻辑
        } else {
            //处理逻辑
    } finally {
        atomic.decrementAndGet();
    

    2.2、限制时间窗最大请求数

    定义:时间窗最大请求数,指定的时间范围内允许的最大请求数

    优点:这个算法能够满足绝大多数的流控需求,通过时间窗最大请求数可以直接换算出最大的QPS(QPS = 请求数/时间窗)

    缺点:这种方式可能会出现流量不平滑的情况,时间窗内一小段流量占比特别大

    lua代码实现

    --- 资源唯一标识
    local key = KEYS[1]
    --- 时间窗最大并发数
    local max_window_concurrency = tonumber(ARGV[1])  
    --- 时间窗
    local window = tonumber(ARGV[2])   
    --- 时间窗内当前并发数
    local curr_window_concurrency = tonumber(redis.call('get', key) or 0)  
    if current + 1 > limit then
        return false
        redis.call("INCRBY", key,1)    
        if window > -1 then
            redis.call("expire", key,window)    
        return true
    ---也可以这样编写:
    local key = KEYS[1] --限流KEY(一秒一个)
    local limit = tonumber(ARGV[1]) --限流大小
    local current = tonumber(redis.call(‘get‘, key) or "0")
    if current + 1 > limit then --如果超出限流大小
        return 0
    else --请求数+1,并设置2秒过期
        redis.call("INCRBY", key,"1")
        redis.call("expire", key,"1")
        return 1
    

    2.3、令牌桶

    假如用户配置的平均发送速率为r,则每隔1/r秒一个令牌被加入到桶中

    假设桶中最多可以存放b个令牌。如果令牌到达时令牌桶已经满了,那么这个令牌会被丢弃

    当流量以速率v进入,从桶中以速率v取令牌,拿到令牌的流量通过,拿不到令牌流量不通过,执行熔断逻辑

    长期来看,符合流量的速率是受到令牌添加速率的影响,被稳定为:r

    因为令牌桶有一定的存储量,可以抵挡一定的流量突发情况

    M是以字节/秒为单位的最大可能传输速率:M>r

    T max = b/(M-r)    承受最大传输速率的时间

    B max = T max * M   承受最大传输速率的时间内传输的流量

    优点:流量比较平滑,并且可以抵挡一定的流量突发情况

    因为我们限流系统的实现就是基于令牌桶这个算法,具体的代码实现参考下文。

    3、工程实现

    3.1、技术选型

    mysql:存储限流策略的参数等元数据

    redis+lua:令牌桶算法实现

    说明:因为我们把redis 定位为:缓存、计算媒介,所以元数据都是存在db中

    3.2、架构图

    3.3、 数据结构

    字段描述 令牌桶的唯一标示 能够使用令牌桶的应用列表 max_permits 令牌桶的最大令牌数 向令牌桶中添加令牌的速率 created_by updated_by

    限流系统的实现是基于redis的,本可以和应用无关,但是为了做限流元数据配置的统一管理,按应用维度管理和使用,在数据结构中加入了apps这个字段,出现问题,排查起来也比较方便。

    3.4、代码实现

    3.4.1、代码实现遇到的问题

    参考令牌桶的算法描述,一般思路是在RateLimiter-client放一个重复执行的线程,线程根据配置往令牌桶里添加令牌,这样的实现由如下缺点:

    需要为每个令牌桶配置添加一个重复执行的线程

    重复的间隔精度不够精确:线程需要每1/r秒向桶里添加一个令牌,当r>1000 时间线程执行的时间间隔根本没办法设置(从后面性能测试的变现来看RateLimiter-client 是可以承担 QPS > 5000 的请求速率)

    3.4.2、解决方案

    基于上面的缺点,参考了google的guava中RateLimiter中的实现,我们使用了触发式添加令牌的方式。

    基于上述的令牌桶算法

    将添加令牌改成触发式的方式,取令牌的是做添加令牌的动作

    在去令牌的时候,通过计算上一次添加令牌和当前的时间差,计算出这段间应该添加的令牌数,然后往桶里添加

    curr_mill_second = 当前毫秒数

    last_mill_second = 上一次添加令牌的毫秒数

    r = 添加令牌的速率

    reserve_permits = (curr_mill_second-last_mill_second)/1000 * r

    添加完令牌之后再执行取令牌逻辑

    3.4.3、 lua代码实现

    --- 获取令牌
    --- 返回码
    --- 0 没有令牌桶配置
    --- -1 表示取令牌失败,也就是桶里没有令牌
    --- 1 表示取令牌成功
    --- @param key 令牌(资源)的唯一标识
    --- @param permits  请求令牌数量
    --- @param curr_mill_second 当前毫秒数
    --- @param context 使用令牌的应用标识
    local function acquire(key, permits, curr_mill_second, context)
        local rate_limit_info = redis.pcall("HMGET", key, "last_mill_second", "curr_permits", "max_permits", "rate", "apps")    
        local last_mill_second = rate_limit_info[1]    
        local curr_permits = tonumber(rate_limit_info[2])    
        local max_permits = tonumber(rate_limit_info[3])    
        local rate = rate_limit_info[4]    
        local apps = rate_limit_info[5]    
        --- 标识没有配置令牌桶
        if type(apps) == 'boolean' or apps == nil or not contains(apps, context) then
            return 0
        local local_curr_permits = max_permits;    
        --- 令牌桶刚刚创建,上一次获取令牌的毫秒数为空
        --- 根据和上一次向桶里添加令牌的时间和当前时间差,触发式往桶里添加令牌
        --- 并且更新上一次向桶里添加令牌的时间
        --- 如果向桶里添加的令牌数不足一个,则不更新上一次向桶里添加令牌的时间
        if (type(last_mill_second) ~= 'boolean' and last_mill_second ~= false and last_mill_second ~= nil) then
            local reverse_permits = math.floor(((curr_mill_second - last_mill_second) / 1000) * rate)        
            local expect_curr_permits = reverse_permits + curr_permits;
            local_curr_permits = math.min(expect_curr_permits, max_permits);       
             --- 大于0表示不是第一次获取令牌,也没有向桶里添加令牌
            if (reverse_permits > 0) then
                redis.pcall("HSET", key, "last_mill_second", curr_mill_second)       
            redis.pcall("HSET", key, "last_mill_second", curr_mill_second)   
        local result = -1
        if (local_curr_permits - permits >= 0) then
            result = 1
            redis.pcall("HSET", key, "curr_permits", local_curr_permits - permits)    
            redis.pcall("HSET", key, "curr_permits", local_curr_permits)    
        return result
    

    关于限流系统的所有实现细节,我都已经放到github上,gitbub地址:https://github.com/wukq/rate-limiter,有兴趣的同学可以前往查看,由于笔者经验与知识有限,代码中如有错误或偏颇,欢迎探讨和指正。

    3.5、性能测试

    配置:aws-elasticcache-redis 2核4g

    因为Ratelimiter-client的功能比较简单,基本上是redis的性能打个折扣。

    单线程取令牌:Ratelimiter-client的 QPS = 250/s

    10个线程取令牌:Ratelimiter-client的 QPS = 2000/s

    100个线程取令牌:Ratelimiter-client的 QPS = 5000/s

    限流系统从设计到实现都比较简单,但是确实很实用,用四个字来形容就是:短小强悍,其中比较重要的是结合公司的权限体系和系统结构,设计出符合自己公司规范的限流系统。

    redis 我们用的是单点redis,只做了主从,没有使用redis高可用集群(可能使用redis高可用集群,会带来新的问题)

    限流系统目前只做了应用层面的实现,没有做接口网关上的实现

    熔断策略需要自己定制,如果实现的好一点,可以给一些常用的熔断策略模板

    参考文章:

    https://blog.csdn.net/fsw4848438/article/details/81540495

    https://www.cnblogs.com/zeng1994/p/03303c805731afc9aa9c60dbbd32a323.html

    https://mp.weixin.qq.com/s?__biz=MzI0MTk0NTY5MA==&mid=2247483711&idx=1&sn=28780c8b26f24ac6314ff5c599bb622c&chksm=e9029c0ade75151c353cd6b720ce438b4342afd8ef3a7d03c61712554c6a000ac3646bbc3124&scene=38#wechat_redirect