面试官想要你回答的分布式锁原理

·  阅读 951
面试官想要你回答的分布式锁原理



点击上方蓝字关注我们



这是小白鼠的第 2 篇原创文章






文章共 10263 字,预计阅读时间:26 分钟。

写在前面

在了解分布式锁具体实现方案之前,我们应该先思考一下使用分布式锁必须要考虑的一些问题。

  • 互斥性:在任意时刻,只能有一个进程持有锁。

  • 防死锁:即使有一个进程在持有锁的期间崩溃而未能主动释放锁,要有其他方式去释放锁从而保证其他进程能获取到锁。

  • 加锁和解锁的必须是同一个进程。

  • 锁的续期问题。

常见的分布式锁实现方案

  • 基于 Redis 实现分布式锁

  • 基于 Zookeeper 实现分布式锁

本文采用第一种方案,也就是基于 Redis 的分布式锁实现方案。

Redis 实现分布式锁主要步骤

  1. 指定一个 key 作为锁标记,存入 Redis 中,指定一个 唯一的用户标识 作为 value。

  2. 当 key 不存在时才能设置值,确保同一时间只有一个客户端进程获得锁,满足 互斥性 特性。

  3. 设置一个过期时间,防止因系统异常导致没能删除这个 key,满足 防死锁 特性。

  4. 当处理完业务之后需要清除这个 key 来释放锁,清除 key 时需要校验 value 值,需要满足 只有加锁的人才能释放锁 


以上实现步骤考虑到了使用分布式锁需要考虑的互斥性、防死锁、加锁和解锁必须为同一个进程等问题,但是 锁的续期无法实现。所以,博主采用 Redisson 实现 Redis 的分布式锁,借助  Redisson 的 WatchDog 机制 能够很好的解决锁续期的问题,同样 Redisson 也是 Redis 官方推荐分布式锁实现方案,实现起来较为简单。

Redisson 实现分布式锁

具体实现代码已经上传到博主的仓库,需要的朋友可以在公众号内回复 【分布式锁代码】 获取码云或 GitHub 项目下载地址。



下面从 加锁机制、锁互斥机制、Watch dog 机制、可重入加锁机制、锁释放机制、等五个方面对 Redisson 实现分布式锁的底层原理进行分析。

加锁原理

加锁是通过一段 lua 脚本实现的,如下:

 1if (redis.call('exists', KEYS[1]) == 0) then " +
2   "
redis.call('hincrby', KEYS[1], ARGV[2], 1); " +
3   "
redis.call('pexpire', KEYS[1], ARGV[1]); " +
4   "
return nil; " +
5   "
end; " +
6"
if (redis.call('hexists', KEYS[1], ARGV[2]) == 1) then " +
7    "
redis.call('hincrby', KEYS[1], ARGV[2], 1); " +
8    "
redis.call('pexpire', KEYS[1], ARGV[1]); " +
9    "
return nil; " +
10    "
end; " +
11"
return redis.call('pttl', KEYS[1]);"
12

复制代码

这里 KEYS[1] 代表的是你加锁的 key,比如你自己设置了加锁的那个锁 key 就是 “myLock”。

1// create a lock
2RLock lock = redisson.getLock("myLock");
复制代码

这里 ARGV[1] 代表的是锁 key 的默认生存时间,默认 30 秒。 ARGV[2] 代表的是加锁的客户端的 ID,通过 UUID 和 threadId 生成的一个字符串:285475da-9152-4c83-822a-67ee2f116a79:52。至于最后面的一个 1 是为了后面可重入做的计数统计,下面会讲解到。

我们来看一下在 Redis 中锁的存储结构:

1127.0.0.1:6379> HGETALL myLock
21) "285475da-9152-4c83-822a-67ee2f116a79:52"
32) "1"
复制代码

上面这一段 lua 代码作用是:第一段 if 判断语句,也就是用  exists myLock 命令判断一下,如果你要加锁的那个锁 key 不存在的话,你就进行加锁。如何加锁呢?使用 hincrby 命令设置一个 hash 结构,类似于在 Redis 中使用下面的操作:

1127.0.0.1:6379> HINCRBY myLock 285475da-9152-4c83-822a-67ee2f116a79:52 1
2(integer) 1
复制代码

接着会执行 pexpire myLock 30000 命令,设置 myLock 这个锁 key 的生存时间(默认是 30 秒),到此加锁完成。

有的小伙伴可能此时就有疑问了, 如果此时有第二个客户端请求加锁呢?这就是下面要说的锁互斥机制。

锁互斥机制

此时,如果客户端 2 来尝试加锁,会如何呢?首先,第一个 if 判断会执行 exists myLock,发现 myLock 这个锁 key 已经存在了。接着第二个 if 判断,判断一下,myLock 锁 key 的 hash 数据结构中,是否包含客户端 2 的 ID,这里明显不是,因为那里包含的是客户端 1 的 ID。所以,客户端 2 会执行:

1return redis.call('pttl', KEYS[1]);
复制代码

返回的一个数字,这个数字代表了 myLock 这个锁 key 的剩余生存时间。

接下来我们看一下 Redissson 实现加锁的主流程:

 1@Override
2    public boolean tryLock(long waitTime, long leaseTime, TimeUnit unit) throws InterruptedException {
3        long time = unit.toMillis(waitTime);
4        long current = System.currentTimeMillis();
5        long threadId = Thread.currentThread().getId();
6        // 1.尝试获取锁
7        Long ttl = tryAcquire(leaseTime, unit, threadId);
8        // lock acquired
9        if (ttl == null) {
10            return true;
11        }
12
13        // 申请锁的耗时如果大于等于最大等待时间,则申请锁失败.
14        time -= System.currentTimeMillis() - current;
15        if (time <= 0) {
16            acquireFailed(threadId);
17            return false;
18        }
19
20        current = System.currentTimeMillis();
21
22        /**
23         * 2.订阅锁释放事件,并通过 await 方法阻塞等待锁释放,有效的解决了无效的锁申请浪费资源的问题:
24         * 基于信息量,当锁被其它资源占用时,当前线程通过 Redis 的 channel 订阅锁的释放事件,一旦锁释放会发消息通知待等待的线程进行竞争.
25         *
26         * 当 this.await 返回 false,说明等待时间已经超出获取锁最大等待时间,取消订阅并返回获取锁失败.
27         * 当 this.await 返回 true,进入循环尝试获取锁.
28         */

29        RFuture<RedissonLockEntry> subscribeFuture = subscribe(threadId);
30        // await 方法内部是用 CountDownLatch 来实现阻塞,获取 subscribe 异步执行的结果(应用了 Netty 的 Future)
31        if (!subscribeFuture.await(time, TimeUnit.MILLISECONDS)) {
32            if (!subscribeFuture.cancel(false)) {
33                subscribeFuture.onComplete((res, e) -> {
34                    if (e == null) {
35                        unsubscribe(subscribeFuture, threadId);
36                    }
37                });
38            }
39            acquireFailed(threadId);
40            return false;
41        }
42
43        try {
44            // 计算获取锁的总耗时,如果大于等于最大等待时间,则获取锁失败.
45            time -= System.currentTimeMillis() - current;
46            if (time <= 0) {
47                acquireFailed(threadId);
48                return false;
49
50              }
51
52            /**
53             * 3.收到锁释放的信号后,在最大等待时间之内,循环一次接着一次的尝试获取锁
54             * 获取锁成功,则立马返回 true,
55             * 若在最大等待时间之内还没获取到锁,则认为获取锁失败,返回 false 结束循环
56             */

57            while (true) {
58                long currentTime = System.currentTimeMillis();
59
60                // 再次尝试获取锁
61                ttl = tryAcquire(leaseTime, unit, threadId);
62                // lock acquired
63                if (ttl == null) {
64                    return true;
65                }
66                // 超过最大等待时间则返回 false 结束循环,获取锁失败
67                time -= System.currentTimeMillis() - currentTime;
68                if (time <= 0) {
69                    acquireFailed(threadId);
70                    return false;
71                }
72
73                /**
74                 * 6.阻塞等待锁(通过信号量(共享锁)阻塞,等待解锁消息):
75                 */

76                currentTime = System.currentTimeMillis();
77                if (ttl >= 0 && ttl < time) {
78                    //如果剩余时间(ttl)小于wait time ,就在 ttl 时间内,从Entry的信号量获取一个许可(除非被中断或者一直没有可用的许可)。
79                    getEntry(threadId).getLatch().tryAcquire(ttl, TimeUnit.MILLISECONDS);
80                } else {
81                    //则就在wait time 时间范围内等待可以通过信号量
82                    getEntry(threadId).getLatch().tryAcquire(time, TimeUnit.MILLISECONDS);
83                }
84
85                // 更新剩余的等待时间(最大等待时间-已经消耗的阻塞时间)
86                time -= System.currentTimeMillis() - currentTime;
87                if (time <= 0) {
88                    acquireFailed(threadId);
89                    return false;
90                }
91            }
92        } finally {
93            // 7.无论是否获得锁,都要取消订阅解锁消息
94            unsubscribe(subscribeFuture, threadId);
95        }
96//        return get(tryLockAsync(waitTime, leaseTime, unit));
97    }
复制代码
  1. 尝试获取锁,返回 null 则说明加锁成功,返回一个数值,则说明已经存在该锁,ttl 为锁的剩余存活时间。

  2. 如果此时客户端 2 进程获取锁失败,那么使用客户端 2 的线程 id(其实本质上就是进程 id)通过 Redis 的 channel 订阅锁释放的事件。如果等待的过程中一直未等到锁的释放事件通知,当超过最大等待时间则获取锁失败,返回 false,也就是第 39 行代码。如果等到了锁的释放事件的通知,则开始进入一个不断重试获取锁的循环。

  3. 循环中每次都先试着获取锁,并得到已存在的锁的剩余存活时间。如果在重试中拿到了锁,则直接返回。如果锁当前还是被占用的,那么等待释放锁的消息,具体实现使用了信号量 Semaphore 来阻塞线程,当锁释放并发布释放锁的消息后,信号量的 release() 方法会被调用,此时被信号量阻塞的等待队列中的一个线程就可以继续尝试获取锁了。

以上过程存在一个细节,这里有必要说明一下,也是分布式锁的几个关键点

当锁正在被占用时,等待获取锁的进程并不是通过一个  while(true) 死循环去获取锁,而是 利用了 Redis 的发布订阅机制,通过 await 方法阻塞等待锁的进程,有效的 解决了无效的锁申请浪费资源的问题


锁的续期机制

客户端 1 加锁的锁 key 默认生存时间才 30 秒,如果超过了 30 秒,客户端 1 还想一直持有这把锁,怎么办呢?

Redisson 提供了一个续期机制, 只要客户端 1 一旦加锁成功,就会启动一个 Watch Dog。

 1private <T> RFuture<Long> tryAcquireAsync(long leaseTime, TimeUnit unit, long threadId) {
2    if (leaseTime != -1) {
3        return tryLockInnerAsync(leaseTime, unit, threadId, RedisCommands.EVAL_LONG);
4    }
5    RFuture<Long> ttlRemainingFuture = tryLockInnerAsync(commandExecutor.getConnectionManager().getCfg().getLockWatchdogTimeout(), TimeUnit.MILLISECONDS, threadId, RedisCommands.EVAL_LONG);
6    ttlRemainingFuture.onComplete((ttlRemaining, e) -> {
7        if (e != null) {
8            return;
9        }
10
11        // lock acquired
12        if (ttlRemaining == null) {
13            scheduleExpirationRenewal(threadId);
14        }
15    });
16    return ttlRemainingFuture;
17}
复制代码




从以上源码我们看到 leaseTime 必须是 -1 才会开启 Watch Dog 机制,也就是如果你想开启 Watch Dog 机制必须使用默认的加锁时间为 30s。如果你自己自定义时间,超过这个时间,锁就会自定释放,并不会延长。



 1private void scheduleExpirationRenewal(long threadId) {
2    ExpirationEntry entry = new ExpirationEntry();
3    ExpirationEntry oldEntry = EXPIRATION_RENEWAL_MAP.putIfAbsent(getEntryName(), entry);
4    if (oldEntry != null) {
5        oldEntry.addThreadId(threadId);
6    } else {
7        entry.addThreadId(threadId);
8        renewExpiration();
9    }
10}
11
12protected RFuture<Boolean> renewExpirationAsync(long threadId) {
13    return commandExecutor.evalWriteAsync(getName(), LongCodec.INSTANCE, RedisCommands.EVAL_BOOLEAN,
14            "if (redis.call('hexists', KEYS[1], ARGV[2]) == 1) then " +
15                "redis.call('pexpire', KEYS[1], ARGV[1]); " +
16                "return 1; " +
17            "end; " +
18            "return 0;",
19        Collections.<Object>singletonList(getName()),
20        internalLockLeaseTime, getLockName(threadId));
21}
复制代码

Watch Dog 机制其实就是一个后台定时任务线程,获取锁成功之后,会将持有锁的线程放入到一个  RedissonLock.EXPIRATION_RENEWAL_MAP 里面,然后每隔 10 秒  (internalLockLeaseTime / 3)  检查一下,如果客户端 1 还持有锁 key(判断客户端是否还持有 key,其实就是遍历  EXPIRATION_RENEWAL_MAP  里面线程 id 然后根据线程 id 去 Redis 中查,如果存在就会延长 key 的时间),那么就会不断的延长锁 key 的生存时间。


这里有一个细节问题,如果服务宕机了,Watch Dog 机制线程也就没有了,此时就不会延长 key 的过期时间,到了 30s 之后就会自动过期了,其他线程就可以获取到锁,并不会造成锁永久锁不释放问题。


可重入加锁机制

Redisson 也是支持可重入锁的,比如下面这种代码:

 1@Override
2public void lock() {
3    RLock lock = redissonSingle.getLock("myLock");
4    try {
5        lock.lock();
6
7        // 执行业务
8        doBusiness();
9
10        lock.lock();
11
12    } catch (Exception e) {
13        e.printStackTrace();
14    } finally {
15        // 释放锁
16        lock.unlock();
17        lock.unlock();
18        logger.info("任务执行完毕, 释放锁!");
19    }
20}
复制代码

我们再分析一下加锁那段 lua 代码:

 1if (redis.call('exists', KEYS[1]) == 0) then " +
2   "
redis.call('hincrby', KEYS[1], ARGV[2], 1); " +
3   "
redis.call('pexpire', KEYS[1], ARGV[1]); " +
4   "
return nil; " +
5   "
end; " +
6"
if (redis.call('hexists', KEYS[1], ARGV[2]) == 1) then " +
7    "
redis.call('hincrby', KEYS[1], ARGV[2], 1); " +
8    "
redis.call('pexpire', KEYS[1], ARGV[1]); " +
9    "
return nil; " +
10    "
end; " +
11"
return redis.call('pttl', KEYS[1]);"
12

复制代码

第一个 if 判断肯定不成立, exists myLock 会显示锁 key 已经存在。第二个 if 判断会成立,因为 myLock 的 hash 数据结构中包含的那个 ID 即客户端 1 的 ID,此时就会执行可重入加锁的逻辑,使用: hincrby myLock 285475da-9152-4c83-822a-67ee2f116a79:52 1 对客户端 1 的加锁次数加 1。此时 myLock 数据结构变为下面这样:

1127.0.0.1:6379> HGETALL myLock
21) "285475da-9152-4c83-822a-67ee2f116a79:52"
32) "2"
复制代码

到这里,小伙伴们就都明白了 hash 结构的 key 是锁的名称,field 是客户端 ID,value 是该客户端加锁的次数。

疑问?



这里有一个问题,如果加锁支持可重入锁,那么解锁呢?


释放锁机制

执行  l ock.unlock()  就可 以释放分布式锁。 我们来看一下释放锁的流程代码:

 1@Override
2public RFuture<Void> unlockAsync(long threadId) {
3    RPromise<Void> result = new RedissonPromise<Void>();
4    // 1. 异步释放锁
5    RFuture<Boolean> future = unlockInnerAsync(threadId);
6    // 取消 Watch Dog 机制
7    future.onComplete((opStatus, e) -> {
8        cancelExpirationRenewal(threadId);
9
10        if (e != null) {
11            result.tryFailure(e);
12            return;
13        }
14
15        if (opStatus == null) {
16            IllegalMonitorStateException cause = new IllegalMonitorStateException("attempt to unlock lock, not locked by current thread by node id: "
17                    + id + " thread-id: " + threadId);
18            result.tryFailure(cause);
19            return;
20        }
21
22        result.trySuccess(null);
23    });
24
25    return result;
26}
复制代码

 1protected RFuture<Boolean> unlockInnerAsync(long threadId) {
2    return commandExecutor.evalWriteAsync(getName(), LongCodec.INSTANCE, RedisCommands.EVAL_BOOLEAN,
3            // 判断锁 key 是否存在
4            "if (redis.call('hexists', KEYS[1], ARGV[3]) == 0) then " +
5                "return nil;" +
6            "end; " +
7            // 将该客户端对应的锁的 hash 结构的 value 值递减为 0 后再进行删除
8            // 然后再向通道名为 redisson_lock__channel publish 一条 UNLOCK_MESSAGE 信息
9            "local counter = redis.call('hincrby', KEYS[1], ARGV[3], -1); " +
10            "if (counter > 0) then " +
11                "redis.call('pexpire', KEYS[1], ARGV[2]); " +
12                "return 0; " +
13            "else " +
14                "redis.call('del', KEYS[1]); " +
15                "redis.call('publish', KEYS[2], ARGV[1]); " +
16                "return 1; "+
17            "end; " +
18            "return nil;",
19            Arrays.<Object>asList(getName(), getChannelName()), LockPubSub.UNLOCK_MESSAGE, internalLockLeaseTime, getLockName(threadId));
20}复制代码

从以上代码来看,释放锁的步骤主要分三步:

  1. 删除锁(这里注意可重入锁,在上面的脚本中有详细分析)。

  2. 广播释放锁的消息,通知阻塞等待的进程(向通道名为 redisson_lock__channel publish 一条 UNLOCK_MESSAGE 信息)。

  3. 取消Watch Dog 机制,即   RedissonLock.EXPIRATION_RENEWAL_MAP 里面的线程 id 删除,并且 cancel 掉 Netty 的那个定时任务线程。

方案优点

  1. Redisson 通过 Watch Dog 机制很好的解决了锁的续期问题。

  2. 和 Zookeeper 相比较,Redisson 基于 Redis 性能更高,适合对性能要求高的场景。

  3. 通过 Redisson 实现分布式可重入锁,比原生的 SET mylock userId NX PX milliseconds + lua 实现的效果更好些,虽然基本原理都一样,但是它帮我们屏蔽了内部的执行细节。

  4. 在等待申请锁资源的进程等待申请锁的实现上也做了一些优化,减少了无效的锁申请,提升了资源的利用率。

方案缺点

  1. 使用 Redisson 实现分布式锁方案最大的问题就是如果你对某个 Redis Master 实例完成了加锁,此时 Master 会异步复制给其对应的 slave 实例。但是这个过程中一旦 Master 宕机,主备切换,slave 变为了 Master。接着就会导致,客户端 2 来尝试加锁的时候,在新的 Master 上完成了加锁,而客户端 1 也以为自己成功加了锁,此时就会导致多个客户端对一个分布式锁完成了加锁,这时系统在业务语义上一定会出现问题,导致各种脏数据的产生。所以这个就是 Redis Cluster 或者说是 Redis Master-Slave 架构的主从异步复制导致的 Redis 分布式锁的最大缺陷(在 Redis Master 实例宕机的时候,可能导致多个客户端同时完成加锁)。

  2. 有个别观点说使用 Watch Dog 机制开启一个定时线程去不断延长锁的时间对系统有所损耗(这里只是网络上的一种说法,博主查了很多资料并且结合实际生产并不认为有很大系统损耗,这个仅供大家参考)。

总结

以上就是基于 Redis 使用 Redisson 实现分布式锁的所有原理分析,希望可以帮助小伙伴们对分布式锁的理解有所加深。其实分析完源码后发现基于 Redis 自己手动实现一个简版的分布式锁工具也并不是很难,有兴趣的小伙伴可以试试。

参考

  • https://juejin.cn/post/6844904110295089160#heading-6

  • https://juejin.cn/post/6844904045899939853#heading-0

  • https://blog.csdn.net/tianyaleixiaowu/article/details/96112684

  • https://www.cnblogs.com/qdhxhz/p/11046905.html



如果大家想要实时关注我更新的文章以及我分享的干货的话,可以关注我的公众号 我们都是小白鼠。公众号内有一些整理过的 原创精品脑图,不仅包含技术点的知识脉络, 更多的底层原理的梳理,在公众号内分别回复【技术脑图】、【面试题】、【开发工具】即可获取。


往期 精彩回顾

上新 | 面试常问的 Java 虚拟机运行时数据区



感谢您的关注,如果您喜欢的话,可以点击右下方的 在看 ,也欢迎您把这篇文章分享给更多的朋友,谢谢!


Data to Drag


每天进步一点点!!!

于 2020.04.13 凌晨


分类:
后端
标签:
分类:
后端
标签:
收藏成功!
已添加到「」, 点击更改