时间:2021-03-24来源:www.pcxitongcheng.com作者:电脑系统城
自己的项目因为会一直抓取某些信息,但是本地会和线上经常一起跑,造成冲突。这其实就是我们常说的分布式集群的问题了,本地和线上的服务器构成了集群以及QPS为2的小并发(其实也不叫并发,不知道拿什么词形容?)。
首先,分布式集群的问题大家都知道,会造成数据库的插入重复问题,会造成一系列的并发性问题。
解决的方式呢也大概如下几点,百度以及谷歌上都能搜到的解决方式:
1:数据库添加唯一索引
2:设计接口幂等性
3:依靠中间件使用分布式锁,而分布式锁又分为Redis和Zookeeper
由于Zookeeper我没怎么接触过,并且我项目中本来就引用了Redis,所以就想着用Redis来做分布式锁,也高端洋气上档次点。
首先基于Redis的操作,我们必须要保证其原子性,也就是要么全部成功,要么全部失败,先从Redis的客户端入手。
就Redis客户端而言,我们通过的操作是先使用setnx指令,如果成功则返回1,失败则返回0
可是就分布锁锁而言,一个常用的问题就是如果一个服务setnx成功了,但是在解锁的时候如果发生了宕机或者一些特殊因素,导致无法解锁,那么其他服务将陷入死锁的状态。所以,我们在用 setnx 的同时想着去用 expire 指令对锁进行一个过期操作
从指令可以看出 setnx 和 expire 指令是分开的,如果在这中间的空隙过程中如果有特殊因素导致指令无法继续,也会导致死锁的产生。
以下参考自老钱的 Redis 深度历险:核心原理与应用实践
为了解决这个疑难,Redis 开源社区涌现了一堆分布式锁的 library,专门用来解决这个问题。实现方法极为复杂,小白用户一般要费很大的精力才可以搞懂。如果你需要使用分布式锁,意味着你不能仅仅使用 Jedis 或者 redis-py 就行了,还得引入分布式锁的 library。
为了治理这个乱象,Redis 2.8 版本中作者加入了 set 指令的扩展参数,使得 setnx 和 expire 指令可以一起执行,彻底解决了分布式锁的乱象。从此以后所有的第三方分布式锁 library 可以休息了。
以上都是基于Redis的操作,但是我们在JAVA中如何去运用分布式锁呢。
首先在Redis方面我用的是RedisTemplate对Redis进行操作的 ,而RedisTemplate在目前情况下如果不借助于是无法保证其原子性的,所以我们需要借助于Redis的Lua脚本。
先上Lua脚本的代码
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 |
// 加锁 if redis.call('setNx',KEYS[1],ARGV[1]) then if redis.call('get',KEYS[1])==ARGV[1] return redis.call('expire',KEYS[1],ARGV[2]) else return 0 end end // 解锁 redis.call('get', KEYS[1]) == ARGV[1] then return redis.call('del', KEYS[1]) else return 0 |
1。新建一个脚本文件,在代码中调用其绝对路径地址
redisScript.setScriptSource(new ResourceScriptSource(new ClassPathResource(地址)));
2。在Java代码中以字符串的方式传入
redisScript.setScriptText(脚本);
我是用的第二种方式实现的,下面是JAVA代码
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 |
/** * 获取锁 * @param lockKey * @param value * @param expireTime:单位-秒 * @return */ public boolean getLock(String lockKey, String value, int expireTime){ boolean ret = false ; try { String script = "if redis.call('setNx',KEYS[1],ARGV[1]) then if redis.call('get',KEYS[1])==ARGV[1] then return redis.call('expire',KEYS[1],ARGV[2]) else return 0 end end" ; RedisScript<Long> redisScript = new DefaultRedisScript<>(script, Long. class ); Object result = redisTemplate.execute(redisScript, new StringRedisSerializer(), new StringRedisSerializer(), Collections.singletonList(lockKey),value,expireTime + "" ); System.out.println(result + "-----------" ); //Object result = redisTemplate.execute(redisScript, Collections.singletonList(lockKey),value,expireTime + ""); if (SUCCESS.equals(result)){ return true ; } } catch (Exception e){ e.printStackTrace(); } return ret; } /** * 释放锁 * @param lockKey * @param value * @return */ public boolean releaseLock(String lockKey, String value){ String script = "if redis.call('get', KEYS[1]) == ARGV[1] then return redis.call('del', KEYS[1]) else return 0 end" ; RedisScript<Long> redisScript = new DefaultRedisScript<>(script, Long. class ); Object result = redisTemplate.execute(redisScript, new StringRedisSerializer(), new StringRedisSerializer(), Collections.singletonList(lockKey),value); if (SUCCESS.equals(result)) { return true ; } return false ; } |
以上代码已经在我的项目中确切可以使用了。但是在使用的过程中遇到了许多问题。
1:java.lang.IllegalStateException
在返回值方面,会经常报IllegalStateException。
1 | RedisScript<String> redisScript = new DefaultRedisScript<>(script, String. class ); |
用String类型时候,经常会报类型转换异常。我在代码中使用的Long类型接收该类型,在命令行中我们也看到命令行结果返回的是数字0或者1,保险起见我们也可以用Object对象来接收结果集。
2:ERR value is not an integer or out of range
这个问题纠结了我一个下午至少,Redis报的异常都是很深的,从跟踪源码的时候看到,我们在调用redisTemplate.execute的方法时候,如果不传序列化的参数的时候,代码默认调用的是 Jdkserializationredisserializer 来进行序列化和反序列化操作,这是jdk自带的序列化操作,使用该序列化的对象必须要实现Serializable接口。所以该序列化接口是用于对实体类的序列化。
所以在进行 execute 操作的时候,我们传入 Stringredisserializer,该序列化接口是专用于对字符串类型的序列化操作。具体的区别可以去这两个类的源码中看下他们的加密方式。
因为时间以及个人能力的问题,对部分源码有点未理解,所以没有做到全方位的解读这些异常的原因,以后有机会会将源码细读并分析其异常原因。
到此这篇关于详解RedisTemplate下Redis分布式锁引发的系列问题的文章就介绍到这了
2023-03-15
Navicat远程连接MongoDB最全实现方法以及报错解决2023-03-15
MongoDB的启动方法详细总结2023-03-11
详解分库分表后非分片键如何查询GROUP BY 语句用于结合合计函数,根据一个或多个列对结果集进行分组,下面这篇文章主要给大家介绍了关于高版本Mysql使用group by分组报错的解决方案,文中通过实例代码介绍的非常详细,需要的朋友可以参考下...
2023-03-06