Redis——Redis删除策略和发布订阅

Cantevenl
985 阅读8分钟

过期数据

曾经设置过有效期的数据，到达了有效期，却没有被删除的数据

Redis中的数据特征

  • Redis是一种内存级数据库，所有数据均存放在==内存中==，内存中的数据可以通过==TTL指令==获取其状态
    • XX ：具有时效性的数据
    • -1 ：永久有效的数据
    • -2 ：已经过期的数据 或 被删除的数据 或 未定义的数据

时效性数据的存储结构

在这里插入图片描述 这四个指令可以设置过期时间，会给一个key设置对应的过期时间

内部是这样存储的 在这里插入图片描述 左边0x0110是内存地址 右边则是过期时间 一个value对应一个field 是hash的结构

数据删除策略

  1. 定时删除
  2. 惰性删除
  3. 定期删除

数据删除策略的目标 在内存占用与CPU占用之间寻找一种平衡，顾此失彼都会造成整体redis性能的下降，甚至引发服务器宕机或内存泄露

定时删除

  • 创建一个定时器，当key设置有过期时间，且过期时间到达时，由定时器任务立即执行对键的删除操作
  • 优点：==节约内存==，到时就删除，快速释放掉不必要的内存占用
  • 缺点：CPU压力很大，无论CPU此时负载量多高，==均占用CPU==，会影响redis服务器响应时间和指令吞吐量
  • 总结：用==处理器性能换取存储空间==（拿时间换空间）

惰性删除

  • 数据到达过期时间，==不做处理==。直到下次访问该数据时
    • 如果未过期，返回数据
    • 发现已过期，删除，返回不存在
    • 内部有一个操作 expirelfNeeded() 这个函数检查数据是否过期
  • 优点：==节约CPU性能==，发现必须删除的时候才删除
  • 缺点：内存压力很大，出现==长期占用内存==的数据
  • 总结：用==存储空间换取处理器性能== （拿时间换空间）

定期删除

在这里插入图片描述 在这里插入图片描述

  • Redis启动服务器初始化时，读取配置server.hz的值，默认为10
127.0.0.1:6379> info server
configured_hz:10

  • 每秒钟执行server.hz次serverCron() serverCron()是轮询

    • databasesCron() 对每个库进行轮询
      • activeExpireCycle()

  • activeExpireCycle()对每个expires[*]逐一进行检测，每次执行250ms/server.hz

  • 对某个expires[*]检测时，随机挑选W个key检测

    • 如果key超时，删除key
    • 如果一轮中删除的key的数量>W*25%，循环该过程
    • 如果一轮中删除的key的数量≤W*25%，检查下一个expires[*]，0-15循环
    • W的取值=ACTIVE_EXPIRE_CYCLE_LOOKUPS_PER_LOOP属性值

  • 参数current_db用于记录activeExpireCycle()进入哪个expires[*] 执行

  • 如果activeExpireCycle()执行时间到期，下次从current_db继续向下执行

  1. 每秒钟执行若干次serverCron()
  2. 然后对所有数据库进行轮询databasesCron()
  3. 在访问的时候对库中key进行轮询
  4. 对key轮询的算法是随机挑选若干个key出来检查判断是否过期
  5. 过期则删除，还要判断删除的量占整体的量是多还是少，如果多再来循环一次，如果少就去下一个库
  • 周期性轮询redis库中的时效性数据，采用随机抽取的策略，利用过期数据占比的方式控制删除频度
  • 特点1：CPU性能占用设置有峰值，检测频度可自定义设置
  • 特点2：内存压力不是很大，长期占用内存的冷数据会被持续清理
  • 总结：周期性抽查存储空间（==随机抽查，重点抽查==）

删除策略对比

策略对内存对cpu总结
定时删除节约内存，无占用不分时段占用CPU资源，频度高拿时间换空间
惰性删除内存占用严重延时执行，CPU利用率高拿空间换时间
定期删除内存定期随机清理每秒花费固定的CPU资源维护内存随机抽查，重点抽查

逐出算法

新数据进入检测

当新数据进入redis时，如果内存不足怎么办？

  • Redis使用内存存储数据，在执行每一个命令前，会调用freeMemoryIfNeeded()检测内存是否充足。如果内存不满足新加入数据的最低存储要求，redis要==临时删除==一些数据为当前指令清理存储空间。清理数据的策略称为==逐出算法==。
  • 注意：逐出数据的过程不是100%能够清理出足够的可使用的内存空间，如果不成功则反复执行。当对所有数据尝试完毕后，如果不能达到内存清理的要求，将出现错误信息 在这里插入图片描述

影响数据逐出的相关配置

  • 最大可使用内存

    maxmemory

    • 占用物理内存的比例，默认值为0，表示不限制。生产环境中根据需求设定，通常设置在50%以上。

  • 每次选取待删除数据的个数

    maxmemory-samples

    • 选取数据时并不会全库扫描，导致严重的性能消耗，降低读写性能。因此采用随机获取数据的方式作为待检测删除数据

  • 删除策略

    maxmemory-policy

    • 达到最大内存后的，对被挑选出来的数据进行删除的策略

  1. 检测易失数据（可能会==过期的==数据集server.db[i].expires ） ① volatile-lru：挑选最近最少使用的数据淘汰 ② volatile-lfu：挑选最近使用次数最少的数据淘汰 ③ volatile-ttl：挑选将要过期的数据淘汰 ④ volatile-random：任意选择数据淘汰

  2. 检测全库数据（所有数据集server.db[i].dict ） ⑤ allkeys-lru：挑选最近最少使用的数据淘汰 ⑥ allkeys-lfu：挑选最近使用次数最少的数据淘汰 ⑦ allkeys-random：任意选择数据淘汰

  3. 放弃数据驱逐 ⑧ no-enviction（驱逐）：禁止驱逐数据（redis4.0中默认策略），会引发错误OOM（Out Of Memory 内存溢出）

在配置文件中

maxmemory-policy volatile-lru

数据逐出策略配置依据

  • 使用INFO命令输出监控信息，查询缓存 hit 和 miss 的次数，根据业务需求调优Redis配置
通过info查看下面两个值
127.0.0.1:6379> info
keyspace_hits:24		# 命中空间
keyspace_misses:0		# 命中丢失

Redis发布订阅

Redis 发布订阅(pub/sub)是一种==消息通信模式==：发送者(pub)发送消息，订阅者(sub)接收消息。微信，微博的关注系统 Redis 客户端可以订阅任意数量的频道。 订阅/发布消息图：

  1. 消息发送者

  2. 频道

  3. 消息订阅者 在这里插入图片描述 下图展示了频道 channel1，以及订阅这个频道的三个客户端—— client2 client5 client1之间的关系： 在这里插入图片描述 当有新消息通过PUBLISH命令发送给频道channel1时，这个消息就会被发送给订阅它的三个客户端： 在这里插入图片描述

Redis 发布订阅命令

命令作用
PSUBSCRIBE pattern [pattern ...]订阅一个或多个符合给定模式的频道。
PUBSUB subcommand [argument [argument ...]]查看订阅与发布系统状态。
PUBLISH channel message将信息发送到指定的频道。
PUNSUBSCRIBE [pattern [pattern ...]]退订所有给定模式的频道。
SUBSCRIBE channel [channel ...]订阅给定的一个或多个频道的信息。
UNSUBSCRIBE [channel [channel ...]]指退订给定的频道。

测试

订阅端：

127.0.0.1:6379> subscribe xiaotian	# 订阅一个频道 xiaotian
Reading messages... (press Ctrl-C to quit)	# 监听读取信息
1) "subscribe"
2) "xiaotian"
3) (integer) 1
# 等待读取推送的信息
1) "message"			# 消息
2) "xiaotian"			# 哪个频道的消息
3) "hello xiaotian"		# 消息的具体内容
1) "message"
2) "xiaotian"
3) "nihao"

发送端：

127.0.0.1:6379> publish xiaotian 'hello xiaotian'	# 发布者发布消息到频道
(integer) 1
127.0.0.1:6379> publish xiaotian 'nihao'	# 发布者发布消息到频道
(integer) 1

原理

Redis是使用C实现的，通过分析Redis源码里的pubsub.c文件，了解发布和订阅机制的底层实现，籍此加深对Redis的理解。

Redis通过PUBLISH、SUBSCRIBE和PSUBSCRIBE等命令实现发布和订阅功能。

通过SUBSCRIBE 命令订阅某频道后，redis-server里维护了一个==字典==，字典的键就是一个个==频道channel==，而字典的值则是一个==链表==，链表中保存了所有订阅这个channel的==客户端==。SUBSCRIBE命令的关键，就是将客户端添加到给定channel的订阅链表中。

通过PUBLSH命令向订阅者发送消息，redis-server会使用给定的频道作为键，在它所维护的channel字典中查找记录了订阅这个频道的所有客户端的链表，遍历这个链表，将消息发布给所有订阅者。

Pub/Sub从字面上理解就是发布(Publish ）)与订阅(Subscribe )，在Redis中，你可以设定对某一个key值进行消息发布及消息订阅，当一个key值上进行了消息发布后，所有订阅它的客户端都会收到相应的消息。这一功能最明显的用法就是用作实时消息系统，比如普通的即时聊天，群聊等功能。

使用场景：

  1. 实时消息系统
  2. 实时聊天（频道当作聊天室，将信息回显给所有人即可）
  3. 订阅，关注系统

稍微复杂的场景，我们就会使用 消息中间件 MQ

avatar
文章
阅读
粉丝