如何解决缓存击穿——提供互斥锁、过期策略两种方案

1,230 阅读4分钟

一、什么是缓存击穿

概念:

缓存击穿问题也被称为热点Key问题,就是一个被高并发访问并且缓存重建业务较复杂(意味着对数据库压力相对较大)的key突然失效了(可以理解为redis的缓存突然无了),无数的请求访问会在瞬间给数据库带来巨大的冲击。

二、解决方案

1.互斥锁:

当同个业务不同线程访问redis未命中时,先获取一把互斥锁,然后进行数据库操作,此时另外一个线程未命中时,拿不到锁,等待一段时间后重新查询缓存,此时之前的线程已经重新把数据加载到redis之中了,线程二就直接缓存命中。这样就不会使得大量访问进入数据库

优缺点

优点:没有额外的内存消耗,保证一致性,实现简单

缺点:线程需要等待,性能受影响,可能有死锁风险

2.逻辑过期:

给缓存设置一个逻辑过期时间,什么意思呢?缓存本来在redis之中,正常情况下除了主动更新它是不会变的,为了防止缓存击穿,我们以一种预判或者说保守的方式,主动设置一个过期时间,当然这个时间过期了,缓存里面的数据是不会消失的,但是我们只需要根据这个假设的过期时间。来进行经常的动态的缓存数据的更新。可以对缓存击穿起一定的预防作用

优缺点

优点:线程无需等待,性能较好

缺点:不保证一致性,有额外内存消耗,实现复杂

三、代码实现

方法1.互斥锁:

    public Shop queryWithMutex(Long id){
        // 1.从redis查询商铺缓存
        String shopJson = stringRedisTemplate.opsForValue().get(RedisConstants.CACHE_SHOP_KEY + id);
        // 2.判断是否存在
        if(StrUtil.isNotBlank(shopJson)){
            // 3.存在直接返回
            Shop shop = JSONUtil.toBean(shopJson, Shop.class);
            return JSONUtil.toBean(shopJson,shop.getClass());
        }
        /* 判断命中的是否为空 */
        if (shopJson!=null){
            //返回一个错误信息
            return null;
        }
        // 4,实现缓存重建
        // 4.1 获取互斥锁
        String lockKey="lock:shop"+id;
        Shop shop = null;
        try {
            boolean isLock = tryLock(lockKey);
            //4.2 判断是否获取成功
            if (!isLock){
                // 4.3 失败 则休眠并重试
                Thread.sleep(50);
                queryWithMutex(id);
            }
            // 4.4 成功 根据id查询数据库
            shop = getById(id);
            // 5.不存在 返回错误
            if (shop==null){
                // 将空值写入redis(防止缓存击穿问题)
                stringRedisTemplate.opsForValue().set(RedisConstants.CACHE_SHOP_KEY+ id,"",2L,TimeUnit.MINUTES);
                return  null;
            }
 
            //  6.存在,写入redis
            stringRedisTemplate.opsForValue().set(RedisConstants.CACHE_SHOP_KEY+ id,JSONUtil.toJsonStr(shop),RedisConstants.CACHE_SHOP_TTL, TimeUnit.MINUTES);
        } catch (InterruptedException e) {
            throw  new RuntimeException(e);
        } finally {
            // 7 释放互斥锁
            unlock(lockKey);
        }
        //  8.返回
        return shop;
    }

方法2.逻辑过期:

    public Shop queryWithLogicalExpire(Long id){
        // 1.从redis查询商铺缓存
        String shopJson = stringRedisTemplate.opsForValue().get(RedisConstants.CACHE_SHOP_KEY + id);
        // 2.判断是否存在
        if(StrUtil.isBlank(shopJson)){
         // 3.如果不存在 直接返回null
            return null;
        }
        // 4.命中 需要先把json反序列化为对象
        RedisData redisData = JSONUtil.toBean(shopJson, RedisData.class);
        JSONObject data = (JSONObject)redisData.getData();
        Shop shop = JSONUtil.toBean(data, Shop.class);
        LocalDateTime expireTime = redisData.getExpireTime();
        //判断是否过期
        if (expireTime.isAfter(LocalDateTime.now())){
            // 5.1 未过期 直接返回商铺信息
            return shop;
        }
        // 5.2 已过期 需要缓存重建
        // 6.缓存重建
        // 6.1获取互斥锁
        String lockKey="lock:shop"+id;
        boolean isLock = tryLock(lockKey);
        // 6.1判断是否获取锁成功
        if(isLock){
            // todo 6.2成功 开启独立线程实现缓存重建
            CACHE_REBUILD_EXECUTOR.submit(()->{
                try {
                    //重建
                    this.saveShopRedis(id,20L);
                } catch (Exception e) {
                    throw new RuntimeException(e);
                } finally {
                    //释放锁
                    unlock(lockKey);
                }
            });
        }
        // 6.3失败 ,直接返回旧的商铺
        return shop;
    }

四、小总结

1、加互斥锁的情况

在并发的多个请求中,只有第一个请求线程能拿到锁并执行数据库查询操作,其他的线程拿不到锁就阻塞等着,等到第一个线程将数据写入缓存后,直接走缓存。

关于互斥锁的选择,网上看到的大部分文章都是选择 Redis 分布式锁,因为这个可以保证只有一个请求会走到数据库,这是一种思路。

但是其实仔细想想的话,这边其实没有必要保证只有一个请求走到数据库,只要保证走到数据库的请求能大大降低即可,所以还有另一个思路是 JVM 锁。

JVM 锁保证了在单台服务器上只有一个请求走到数据库,通常来说已经足够保证数据库的压力大大降低,同时在性能上比分布式锁更好。

需要注意的是,无论是使用“分布式锁”,还是“JVM 锁”,加锁时要按 key 维度去加锁。

我看网上很多文章都是使用一个“固定的 key”加锁,这样会导致不同的 key 之间也会互相阻塞,造成性能严重损耗。

1、将热点数据设置不过期的情况

直接将缓存设置为不过期,然后由定时任务去异步加载数据,更新缓存。

这种方式适用于比较极端的场景,例如流量特别特别大的场景,使用时需要考虑业务能接受数据不一致的时间,还有就是异常情况的处理,不要到时候缓存刷新不上,一直是脏数据,那就凉了。