Redis优雅键值设计与BigKey处理指南

125 阅读4分钟

目录

1、优雅的 Key 结构

2、BigKey 慎用

3、如何发现 BigKey

1. 优雅的key结构

Redis的Key虽然可以自定义,但最好遵循下面的几个最佳实践约定:

  • 遵循基本格式:[业务名称]:[数据名]:[数据/数据id]
  • 长度不超过44字节
  • 不包含特殊字符

例如:我们的登录业务,保存用户信息,其key可以设计成如下格式: login:users:123123 (用户 ID)

优点:

可读性强

避免key冲突

方便管理

更节省内存: key是string类型,底层编码包含int、embstr和raw三种。embstr在小于44字节使用,采用连续内存空间,内存占用更小。当字节数大于44字节时,会转为raw模式存储,在raw模式下,内存空间不是连续的,而是采用一个指针指向了另外一段内存空间,在这段空间里存储SDS内容,这样空间不连续,访问的时候性能也就会收到影响,还有可能产生内存碎片。

image.png

  1. BigKey慎用 BigKey通常以Key的大小和Key中成员的数量来综合判定,例如:

Key本身的数据量过大:一个String类型的Key,它的值为5 MB

Key中的成员数过多:一个ZSET类型的Key,它的成员数量为10,000个

Key中成员的数据量过大:一个Hash类型的Key,它的成员数量虽然只有1,000个但这些成员的Value(值)总大小为100 MB

注意:

一般不推荐使用memory指令,因为memory指令对cpi使用率比较高

实际开发我们一般只需要判断值或者值的个数即可

推荐值:

单个key的value小于10KB

对于集合类型的key,建议元素数量小于1000,个数一般不超过5000

请注意,MEMORY 命令在 Redis 4.0 版本及更高版本中引入。如果您使用的是较旧的版本,您可能需要升级 Redis 到最新版本才能使用 MEMORY 命令

2.1. BigKey的危害 网络阻塞

对BigKey执行读请求时,少量的QPS就可能导致带宽使用率被占满,导致Redis实例,乃至所在物理机变慢

数据倾斜

BigKey所在的Redis实例内存使用率远超其他实例,无法使数据分片的内存资源达到均衡

Redis阻塞

对元素较多的hash、list、zset等做运算会耗时较旧,使主线程被阻塞

CPU压力

对BigKey的数据序列化和反序列化会导致CPU的使用率飙升,影响Redis实例和本机其它应用

  1. 如何发现BigKey 3.1. redis-cli --bigkeys

image.png 利用redis-cli提供的--bigkeys参数,可以遍历分析所有key,并返回Key的整体统计信息与每个数据的Top1的big key

命令:

`redis-cli -a 密码 --bigkeys`

3.2.  scan扫描

自己编程,利用scan扫描Redis中的所有key,利用strlen、hlen等命令判断key的长度(此处不建议使用MEMORY USAGE

image.png

scan 命令调用完后每次会返回2个元素,第一个是下一次迭代的光标,第一次光标会设置为0,当最后一次scan 返回的光标等于0时,表示整个scan遍历结束了,第二个返回的是List,一个匹配的key的数组

3.3. 第三方工具

  • 利用第三方工具,如 Redis-Rdb-Tools 分析RDB快照文件,全面分析内存使用情况
  • github.com/sripathikri…

如何删除BigKey BigKey内存占用较多,即便时删除这样的key也需要耗费很长时间,导致Redis主线程阻塞,引发一系列问题。redis 3.0 及以下版本

如果是集合类型,则遍历BigKey的元素,先逐个删除子元素,最后删除BigKey

使用 DEL 命令:

尽管 DEL 命令是同步的,可能会对性能产生一些影响,但它仍然是删除键的一种方法。你可以使用以下命令:

DEL key

其中,key 是你要删除的键的名称。这个命令会阻塞 Redis 服务器,直到删除操作完成

  • unlink 命令

Redis在4.0后提供了异步删除的命令:unlink