Redis 数据持久化(RDB/AOF/混合持久化)

1,254 阅读7分钟

Redis数据持久化

RDB快照(snapshot)---以二进制方式保存数据,redis默认开启

在默认情况下, Redis 将内存数据库快照保存在名字为 dump.rdb 的二进制文件中。你可以对 Redis 进行设置, 让它在“N 秒内数据集至少有 M 个改动”这一条件被满足时, 自动保存一次数据集。
比如说, 以下设置会让 Redis 在满足“60 秒内有至少有 1000 个键被改动”这一条件时, 自动保存一次数据集:
#save 60 1000 //关闭RDB只需要将所有的save保存策略注释掉即可

还可以手动执行命令生成RDB快照,进入redis客户端执行命令save或bgsave可以生成dump.rdb文件,每次命令执行都会将所有redis内存快照到一个新的rdb文件里,并覆盖原有rdb快照文件。

修改redis.conf 使RDB生效

  1. 修改保存rdb文件的名称(我这使用默认,未做更改)

image.png
2)修改 dir路径,用于保存rdb文件(我存到redis/data中)

image.png
3)启用save
每行代表一种规则
第一行:3600秒内至少有1个键被改动,则触发sava rdb操作
第二行:300秒内至少有100个键被改动,则触发save rdb操作
第三行:60秒内至少有10000个键被改动,则触发save rdb操作 image.png 4) 查看dump.rdb文件

image.png

vim dump.rdb

image.png

bgsave的写时复制(COW)机制

Redis 借助操作系统提供的写时复制技术(Copy-On-Write, COW),在生成快照的同时,依然可以正常处理写命令。简单来说,bgsave 子进程是由主线程 fork 生成的,可以共享主线程的所有内存数据。 bgsave 子进程运行后,开始读取主线程的内存数据,并把它们写入 RDB 文件。此时,如果主线程对这些数据也都是读操作,那么,主线程和 bgsave 子进程相互不影响。但是,如果主线程要修改一块数据,那么,这块数据就会被复制一份,生成该数据的副本。然后,bgsave 子进程会把这个副本数据写入 RDB 文件,而在这个过程中,主线程仍然可以直接修改原来的数据。

image.png

AOF(append-only file)-以命令行存储数据

快照功能并不是非常耐久(durable): 如果 Redis 因为某些原因而造成故障停机, 那么服务器将丢失最近写入、且仍未保存到快照中的那些数据。从 1.1 版本开始, Redis 增加了一种完全耐久的持久化方式: AOF 持久化,将修改的每一条指令记录进文件appendonly.aof中(先写入os cache,每隔一段时间fsync到磁盘)

修改redis.conf开启AOF(首次开启,需要重启redis服务)

将appendonly 改为yes,appendfilename文件名根据实际情况修改
image.png

设置AOF数据保存周期

1、appendfsync always:每次有新命令追加到 AOF 文件时就执行一次 fsync ,非常慢,也非常安全。

2、appendfsync everysec:每秒 fsync 一次,足够快,并且在故障时只会丢失 1 秒钟的数据。

3、appendfsync no:从不 fsync ,将数据交给操作系统来处理。更快,也更不安全的选择。
系统默认使用每秒保存一次
image.png

执行set操作,查看AOF文件

image.png
AOF文件内容如下:
image.png 这是一种resp协议格式数据,星号后面的数字代表命令有多少个参数,$号后面的数字代表这个参数有几个字符注意,如果执行带过期时间的set命令,aof文件里记录的是并不是执行的原始命令,而是记录key过期的时间戳比如执行“set name lisi ex 1000”,对应aof文件里记录如下

image.png

image.png

AOF数据恢复原理

就是按照存储的AOF里面的命令进行执行恢复
推荐(并且也是默认)的措施为每秒 fsync 一次, 这种 fsync 策略可以兼顾速度和安全性。

AOF 重写

上文说道在使用AOF恢复数据的时候,会逐行执行AOF里面的命令,这样有些重复命令就会被重复执行,浪费系统资源,如下:

incr 数字+1

1)客户端执行数值累加
image.png
2)查看AOF文件,会将执行的命令都记录在文件中
image.png
3) 理想状态应该只记录一行命令
set good 6
在客户端执行:bgrewriteaof(会将命令进行合并重写)

image.png 再次查看aof文件

image.png\

set val数据更新

1)客户端执行set 命令

image.png

2)查看aof文件

image.png

3)执行bgrewriteaof之后查看aof文件

image.png
这样重写之后,不仅节省了数据存储空间,同时在下次数据恢复的时候也会提升效率

AOF 自动重写配置

image.png 如上两个配置可以控制AOF自动重写频率
1 # auto‐aof‐rewrite‐min‐size 64mb
//aof文件至少要达到64M才会自动重写,文件太小恢复速度本来就很快,重写的意义不大

2 # auto‐aof‐rewrite‐percentage 100
//aof文件自上一次重写后文件大小增长了100%则再次触发重写

注意,AOF重写redis会fork出一个子进程去做(与bgsave命令类似),不会对redis正常命令处理有太多影响

RDB和AOF 对比

image.png 生产环境可以都启用,redis启动时如果既有rdb文件又有aof文件则优先选择aof文件恢复数据,因为aof一般来说数据更全一点。

Redis 4.0 混合持久化

重启 Redis 时,我们很少使用 RDB来恢复内存状态,因为会丢失大量数据。我们通常使用 AOF 日志重放,但是重放 AOF 日志性能相对 RDB来说要慢很多,这样在 Redis 实例很大的情况下,启动需要花费很长的时间。 Redis 4.0 为了解决这个问题,带来了一个新的持久化选项——混合持久化。通过如下配置可以开启混合持久化(必须先开启aof):
#aof‐use‐rdb‐preamble yes
如果开启了混合持久化,AOF在重写时,不再是单纯将内存数据转换为RESP命令写入AOF文件,而是将重写这一刻之前的内存做RDB快照处理,并且将RDB快照内容和增量的AOF修改内存数据的命令存在一起,都写入新的AOF文件,新的文件一开始不叫appendonly.aof,等到重写完新的AOF文件才会进行改名,覆盖原有的AOF文件,完成新旧两个AOF文件的替换。于是在 Redis 重启的时候,可以先加载 RDB 的内容,然后再重放增量 AOF 日志就可以完全替代之前的AOF 全量文件重放,因此重启效率大幅得到提升。

开启 混合持久化

1)修改redis.conf 中改为:aof‐use‐rdb‐preamble yes(改为需要重启redis)

image.png

2)进行命令重写

image.png

3)查看aof文件

image.png

4)在客户端再次执行命令

image.png

5)再次查看aof文件

image.png

结论:aof文件再经过bgrewriteaof之后,再次执行的命令会按照aof的方式进行存储,等下次再bgrewriteaof之后,再进行二进制存储。redis后台再进行bgrewriteaof的时候,这时候如果有客户端命令进来,会再后面进行追加。

image.png

总结

redis4.0之后新增了混合持久化存储方案,实际就是利用aof的方式加上rdb二进制数据存储方式的合并,建议在实际生成过程中可以使用混合持久化方案,此时可以将rdb关掉,只需要在redis.conf中的 save 注释即可。

Redis数据备份策略:

  1. 写crontab定时调度脚本,每小时都copy一份rdb或aof的备份到一个目录中去,仅仅保留最近48小时的备份

  2. 每天都保留一份当日的数据备份到一个目录中去,可以保留最近1个月的备份

  3. 每次copy备份的时候,都把太旧的备份给删了

  4. 每天晚上将当前机器上的备份复制一份到其他机器上,以防机器损坏