Redis是什么
为什么需要Redis
- 数据从单表,演进出了分库分表
- MySOL从单机演进出了集群
- 数据量增长
- 读写数据压力的不断增加
- 数据分冷热
- 热数据:进程被访问到的数据
- 将热数据存储到内存中
Redis基本工作原理
- AOF 保存增量数据(修改数据库的指令)
- RDB 保存全量数据
实例
连续打卡
Key: cc_uid_1165894833417101
value: 252
expireAt:后天的O点
消息通知
- 使用场景:消息通知。例如当文章更新时,将更新后的文 章推送到ES,用户就能搜索到最新的文章数据。
计数
- 统计文章被点赞数,统计文章被阅读数,关注数,关注者,收藏集,关注标签数。
排行榜
积分变化时,排名要实时变更,多次查询,多次修改,实时排序。
分布式锁
并发场景,要求一次只能有一个协程执行。执行完成后,其它等待中的协程才能执行。
可以使用redis的setnx实现,利用了两个特性
-
Redis是单线程执行命令
-
setnx只有未设置过才能执行成功
限流
要求1秒内放行的请求为N,超过N则禁止访问
数据结构
String
- 可以存储宇符串、数字、二进制数据
- 通常和expire配合使用
- 场景:存储计数、Session
Quicklist
一个节点存多个数据(存在listpack中)
hash
- 一次性请求多个数据。 •rehash:rehash操作是将ht[O]中的数据,全部迁移到h[1]中。数据量小的场景下,直接将数据从ht[0]拷贝到ht[1]速度是较快的。数据量大的场景,例如存有上百万的Kv时,迁移过程将会明显阻塞用户请求。
- 渐进式rehash:为避免出现这种情况,使用了rehash方案。基本原理就是,每次用户访问时都会迁移少量数据。将整个迁移过程,平摊到所有的访问用户请求过程中。## Redis使用注意事项
zset
跳跃表(树状数组) + hash(dict)
Redis使用事项
大key、热key
定义
危害
- 读取成本高
- 容易导致慢查询(过期、删除)
- 主从复制异常,服务阻塞无法正常响应请求
解决方法
-
拆分
将大key拆分 为小key。例如一个String拆分成多个String
-
压缩
将value压缩后写入redis,读取时解压后再使用。压缩算法可以是gzip、snappy、124等。通常情况下,一个压缩算法压缩率高、则解压耗时就长。需要对实际数据进行测试后,选择一个合适的算法。如果存储的是JSON字符串,可以考虑使用MessagePack进行序列化。
3.集合类结构hash、list. set、 set
(1)拆分:可以用hash取余、位掩码的方式决定放在哪个key中
(2)区分冷热:如榜单列表场景使用zset,只缓存前10页数据,后续数据走db
热Key定义
用户访问一个Key的QPS特别高,导致Server实例出现CPU负载突增或者不均的情况。 热key没有明确的标准,QPS 超过500就有可能被识别为热Key
解决方法
-
设置Localcache
在访问Redis前,在业务服务侧设置Localcache,降低访问Redis的QPS。LocalCache中缓存过期或未命中则从Redis中将数据更新到LocalCache. Java的Guava,Golang的Bigcache就是这类LocalCache。
-
拆分
将key:valve这一个热Key复制写入多份,例如key1:value,key2: value,访问的时候访问多个key,但value是同一个以此将qps分散到不同实例上,降低负载。代价是,更新时需要更新多个key,存在数据短暂不一致的风险
-
代理
慢查询
容易导致redis慢查询的操作
(1) 批量操作一次性传入过多的key/value,如mset /hmset/sadd/ zadd等o(n)操作 建议单批次不要超过100,超过100之后性能下降明显。
(2)zset大部分命令都是O(log(n)),当大小超过5k以上时,简单的zadd/zrem也可能导致慢查询
(3) 操作的单个value过大,超过10KB。也即,避免使用大Key
(4)对大key的delete/expire操作也可能导致慢查询,Redis4.0之前不支持异步删除unlink,大key删除会阻塞Redis
缓存穿透,缓存雪崩(???)
缓存穿透:热点数据查询绕过缓存,直接查询数据库
缓存雪崩:大量缓存同时过期
缓存穿透的危害
-
查询一个一定不存在的数据
通常不会缓存不存在的数据,这类查询请求都会直接打到db,如果有系统bug或人为政击,那么容易导致db响应慢甚至宕机。
-
缓存过期时
在高并发场景下,一个热key如果过期,会有大量请求同时击穿至db,容易影响db性能和稳定。 同一时间有大量key集中过期时,也会导致大量请求落到db上,导致查询变慢,甚至出现db无法响应新的查询。
解决方式
- 缓存空值
- 布隆过滤器
- 分散设置过去时间
- 使用缓存集群