后端 与 Redis | 青训营笔记

99 阅读4分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第 16 天,今天学习了非关系型数据库Redis,这是我第一次接触非关系数据库,下面是我的收获

Redis

1.1 什么是Redis

1.1.1 为什么需要Redis

原因

  • 数据从单表演进到分库分表
  • MySql数据库从单机演进出了集群,即数据量不断增长,读写数据压力也不断增加
  • 数据分冷数据和热数据,即经常被访问到的数据被称为热数据
  • 需要将热数据存储到内存中,便于读写

1.1.2 工作原理

  • 数据从内存中读写
  • 数据保存到硬盘上防止重启数据时,数据丢失
    • 增量数据保存到AOF文件
    • 全量数据RDB文件
  • 单线程处理所有操作命令

1.2 应用案例

下面举例一个课程提到的案例

分布式锁

场景:在并发环境下,要求一次只能有一个协程执行,且执行完成后,其他等待中的协程才能执行

使用Redis的解决方法

使用Redis的setnx实现,利用其两个特性

  • Redis是单线程执行命令(上文工作原理提到过)
  • setnx只有未设置过才能执行成功

image.png

1.3 注意事项

1.3.1 大Key & 热Key

大Key

数据类型:String

大Key标准:value的字节数大于10KB即为大Key

数据类型:Hash/Set/Zset/list等复杂数据结构类型

大Key标准:元素个数大于5000个或总value字节数大于10MB即为大Key

危害

  • 读取成本高
  • 容易导致慢查询(过期、删除)
  • 主从复制异常,服务阻塞,无法正常响应请求

消除大Key的方法

  • 拆分

    将大Key拆分为小Key,例如一个String拆分为多个String

  • 压缩

    将value压缩后写入Redis,读取时解压后再使用

  • 集合类结构hash,list、set

    • 拆分,可以用hash取余、位掩码的方式决定放在哪个Key中
    • 区分冷热,如榜单列表场景使用zset,只缓存前10页数据,后续数据走db

热Key

定义

用户访问一个Key的qps特别高,导致Server实例出现CPU负载突增或者不均的情况,热Key没有明确的标准,qps超过500就可能被识别为热Key

解决热Key的方法

  • 设置Localcache

在访问Redis前,在业务服务侧设置Localcache,降低访问Redis的QPS;LocalCache中缓存过期或未命中,则从Redis中将数据更新到LocalCache。Java的Guava、Golang的Bigcache就是这类LocalCache

image.png

  • 拆分

将key:value这一个热Key复制写入多份,例如key1:value,key2:value,访问的时候访问多个key,但value是同一个,以此将qps分散到不同实例上,降低负载。代价是,更新时需要更新多个key,存在数据短暂不一致的风险

image.png

  • 使用Redis代理的热Key承载能力

字节的Redis访问代理就具备热Key承载能力,具体的不做介绍

1.3.2 慢查询场景

容易导致Redis慢查询的操作

  • 批量操作一次性传入过多的key/value,如mset/hmset/sadd/zadd等O(n)操作
  • zset大部分命令都是O(log(n)),当大小超过5k以上时,简单的zadd/zrem也可能导致慢查询
  • 操作的单个value过大,超过10KB。也即,避免使用大Key
  • 对大key的delete/expire操作也可能导致慢查询,Redis4.0之前不支持异步删除unlink,大key删除会阻塞Redis

1.3.3 缓存穿透、雪崩

缓存穿透:热点数据查询绕过缓存,直接查询数据库

缓存雪崩:大量缓存同时过期

危害

  • 查询一个一定不存在的数据

通常不会缓存不存在的数据,这类查询请求都会直接打到db,如果有系统bug或人为攻击,那么容易导致db响应慢甚至宕机

  • 缓存过期时

在高并发场景下,一个热key如果过期,会有大量请求同时击穿至db,容易影响db性能和稳定 同一时间有大量key集中过期时,也会导致大量请求落到db上,导致查询变慢,甚至出现db无法响应新的查询

解决方法

  • 缓存空值

如一个不存在的userlD,这个id在缓存和数据库中都不存在,则可以缓存一个空值,下次再查缓存直接反空值

  • 布隆过滤器

通过bloom filter算法来存储合法Key,得益于该算法超高的压缩率,只需占用极小的空间就能存储大量key值

  • 使用缓存集群,避免单机宕机造成的缓存雪崩