Redis学习记录（二）

程序员葱
209 阅读10分钟

分布式缓存

单点Redis中的问题

数据丢失问题：需要实现Redis数据的持久化

并发能力问题：搭建主从集群，用来实现读写分离

存储能力问题：搭建分片集群，利用插槽机制实现动态扩容

故障恢复问题：利用redis哨兵，实现健康检测和自动恢复

image.png

Redis的持久化

Redis的数据持久化的方式有两种，RDB方式的持久化和AOF方式的持久化

RDB 方式

RDB全称Redis Database Backup file（Redis数据备份文件），也被叫做Redis数据快照。简单来说就是把内存中的所有数据都记录到磁盘中。当Redis实例故障重启后，从磁盘读取快照文件，恢复数据。快照文件称为RDB文件，默认是保存在当前运行目录。

数据备份命令 save，使用这个命令会将后面所有的命令进行阻塞。 image.png

此时可以看到已经生成的 .rdb结尾的配置文件。

image.png

Redis 在停机的时候会执行一次RDB的备份操作。

Rdb的相关配置

image.png

bgsave 命令的执行原理

image.png

fork采用的是copy-on-write技术：当主进程执行读操作的时候，访问共享内存。主进程执行写操作的时候，会拷贝一份数据，执行写操作。

小总结：

image.png

AOF 方式

AOF：AOF全称为Append Only File（追加文件）。Redis处理的每一个写命令都会记录在AOF文件，可以看做是命令日志文件。

AOF 默认是关闭的

image.png

image.png

image.png

image.png

RDB 和 AOF 之间的对比

image.png

Redis主从搭建

为什么需要主从架构：因为单点的Redis的并发能力是有上限的，要进一步提高Redis的并发能力，就需要搭建主从集群，实现读写分离

image.png

主从搭建

集群搭建结构图

image.png

共包含三个节点，一个主节点，两个从节点。

这里我们会在同一台虚拟机中开启3个redis实例，模拟主从集群，信息如下：

IPPORT角色
192.168.216.1407001master
192.168.216.1407002slave
192.168.216.1407003slave

1、创建三个文件

image.png

将之前安装好的redis配置文件分别进行拷贝一份放入到7001、7002、7003

2、恢复原始配置

修改redis-6.2.4/redis.conf文件，将其中的持久化模式改为默认的RDB模式，AOF保持关闭状态。

# 开启RDB
# save ""
save 3600 1
save 300 100
save 60 10000

# 关闭AOF
appendonly no

3、拷贝每一个配置文件到每一个实例目录

# 方式一：逐个拷贝
cp redis-6.2.4/redis.conf 7001
cp redis-6.2.4/redis.conf 7002
cp redis-6.2.4/redis.conf 7003

# 方式二：管道组合命令，一键拷贝
echo 7001 7002 7003 | xargs -t -n 1 cp redis-6.2.4/redis.conf

4、修改端口和工作目录

sed -i -e 's/6379/7001/g' -e 's/dir .\//dir \/tmp\/7001\//g' 7001/redis.conf
sed -i -e 's/6379/7002/g' -e 's/dir .\//dir \/tmp\/7002\//g' 7002/redis.conf
sed -i -e 's/6379/7003/g' -e 's/dir .\//dir \/tmp\/7003\//g' 7003/redis.conf

5、修改每一个实例的声明IP

6、redis实例的声明 IP

replica-announce-ip 192.168.216.140

每个目录都要改，我们一键完成修改（在/tmp目录执行下列命令）：

# 逐一执行
sed -i '1a replica-announce-ip 192.168.150.101' 7001/redis.conf
sed -i '1a replica-announce-ip 192.168.150.101' 7002/redis.conf
sed -i '1a replica-announce-ip 192.168.150.101' 7003/redis.conf

# 或者一键修改
printf '%s\n' 7001 7002 7003 | xargs -I{} -t sed -i '1a replica-announce-ip 192.168.150.101' {}/redis.conf

7、启动redis实例

image.png

8、做主从设置，让7002、7003 成为7001 的从节点

让7002 成为7001的从节点

image.png

让7003成为7001的从节点

image.png

使用info replication命令查看信息

image.png

数据同步的原理

全量同步：主从第一次的同步是全量同步

image.png

master如何判断slave是不是第一次来同步数据，这里有两个非常重要的概念：

Replication ID：简称replid，是数据集的标记，Id一致说明是同一个数据集。每一个master都有唯一的replid，slave则会继承master节点的replid。

Offset： 偏移量，随着记录在repl_baklog中的数据增多而逐渐增大。slave完成同步时也会记录当前同步的offset。如果slave的offset小于master的offset，说明slave数据落后于master，需要更新。 因此slave做数据同步，必须向master声明自己的replication id 和offset，master才可以判断到底需要同步哪些数据

image.png

增量同步：在slave重启以后在做同步，则执行增量同步。 image.png

总结：

image.png

Redis哨兵机制

哨兵的作用：哨兵机制用来实现主从集群的自动故障恢复。可以监控集群的健康状态、故障的自动恢复、通知功能 image.png

image.png

选举新的master

一旦发现master故障，sentinel需要在salve中选择一个作为新的master，选择依据是这样的：

  • 首先会判断slave节点与master节点断开时间长短，如果超过指定值（down-after-milliseconds * 10）则会排除该slave节点

  • 然后判断slave节点的slave-priority值，越小优先级越高，如果是0则永不参与选举

  • 如果slave-prority一样，则判断slave节点的offset值，越大说明数据越新，优先级越高

  • 最后是判断slave节点的运行id大小，越小优先级越高。

如何实现故障的转移

image.png

小总结: image.png

哨兵集群结构搭建

我们需要如下结构的集群

image.png

需要的节点信息

节点ipport
s1192.168.216.14027001
s2192.168.216.14027002
s3192.168.216.14027003

要在同一台虚拟机开启3个实例，必须准备三份不同的配置文件和目录，配置文件所在目录也就是工作目录。

我们创建三个文件夹，名字分别叫s1、s2、s3：

image.png

然后我们在s1目录创建一个sentinel.conf文件，添加下面的内容：

port 27001
sentinel announce-ip 192.168.216.140
sentinel monitor mymaster 192.168.216.140 7001 2
sentinel down-after-milliseconds mymaster 5000
sentinel failover-timeout mymaster 60000
dir "/tmp/s1"
  • port 27001：是当前sentinel实例的端口
  • sentinel monitor mymaster 192.168.216.140 7001 2：指定主节点信息
    • mymaster：主节点名称，自定义，任意写
    • 192.168.216.140 7001：主节点的ip和端口
    • 2：选举master时的quorum值

然后将s1/sentinel.conf文件拷贝到s2、s3两个目录中（在/tmp目录执行下列命令）：

# 方式一：逐个拷贝
cp s1/sentinel.conf s2
cp s1/sentinel.conf s3
# 方式二：管道组合命令，一键拷贝
echo s2 s3 | xargs -t -n 1 cp s1/sentinel.conf

修改s2、s3两个文件夹内的配置文件，将端口分别修改为27002、27003：

sed -i -e 's/27001/27002/g' -e 's/s1/s2/g' s2/sentinel.conf
sed -i -e 's/27001/27003/g' -e 's/s1/s3/g' s3/sentinel.conf

启动sentinal

# 第1个
redis-sentinel s1/sentinel.conf
# 第2个
redis-sentinel s2/sentinel.conf
# 第3个
redis-sentinel s3/sentinel.conf

image.png

这个时候断开7001这个redis服务

image.png

可以看到这台主机已经进入到了master模式

image.png

重新启动7001，可以看到他在尝试做数据的同步

image.png

RedisTemplate 的哨兵模式

1、引入Redis 的starter依赖

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-data-redis</artifactId>
</dependency>

2、写配置文件

spring:
  redis:
    sentinel:
      #指定master 的名称
      master: mymaster      
      nodes:
        # 指定redis-sentinel集群信息 
        - 192.168.216.140: 27001
        - 192.168.216.140: 27002
        - 192.168.216.140: 27003

3、写配置类

@SpringBootApplication
public class RedisDemoApplication {

    public static void main(String[] args) {
        SpringApplication.run(RedisDemoApplication.class, args);
    }

    @Bean
    public LettuceClientConfigurationBuilderCustomizer configurationBuilderCustomizer(){
        return configBuilder -> configBuilder.readFrom(ReadFrom.REPLICA_PREFERRED);
    }
}

//TODO 遇到BUG了还没有解决。。。。。

Redis分片集群

有了主从和哨兵机制，可以解决高可用，高并发读的问题，但是仍然有两个问题没有去解决，就是 数据的海量存取，和高并发写的问题。

解决这类问题，我们可以采用分片集群的方式来解决：

分片集群的特征：

  • 集群中有多个master，每一个master用来保存不同的数据

  • 每一个master节点都可以有多个slave节点

  • master之间可以通过ping的方式来检测健康状态

  • 客户端可以访问任意的节点，都可以转发到正确的节点

image.png

Redis分片集群搭建

由于分片结群节点数量比较多在这里使用三个master节点每一个master节点附带一个从节点。

这里我们会在同一台虚拟机中开启6个redis实例，模拟分片集群，信息如下：

IPPORT角色
192.168.216.1407001master
192.168.216.1407002master
192.168.216.1407003master
192.168.216.1408001slave
192.168.216.1408002slave
192.168.216.1408003slave

1、删除之前的7001、7002、7003这几个目录，重新创建出7001、7002、7003、8001、8002、8003目录：

# 进入/tmp目录
cd /tmp
# 删除旧的，避免配置干扰
rm -rf 7001 7002 7003
# 创建目录
mkdir 7001 7002 7003 8001 8002 8003

image.png

2、在/tmp下准备一个新的redis.conf文件，内容如下：

port 6379
# 开启集群功能
cluster-enabled yes
# 集群的配置文件名称，不需要我们创建，由redis自己维护
cluster-config-file /tmp/6379/nodes.conf
# 节点心跳失败的超时时间
cluster-node-timeout 5000
# 持久化文件存放目录
dir /tmp/6379
# 绑定地址
bind 0.0.0.0
# 让redis后台运行
daemonize yes
# 注册的实例ip
replica-announce-ip 192.168.150.101
# 保护模式
protected-mode no
# 数据库数量
databases 1
# 日志
logfile /tmp/6379/run.log

3、将这个文件拷贝到每个目录下：

# 进入/tmp目录
cd /tmp
# 执行拷贝
echo 7001 7002 7003 8001 8002 8003 | xargs -t -n 1 cp redis.conf

image.png

4、修改每个目录下的redis.conf，将其中的6379修改为与所在目录一致：

image.png

5、启动服务

因为已经配置了后台启动模式，所以可以直接启动服务：

printf '%s\n' 7001 7002 7003 8001 8002 8003 | xargs -I{} -t /usr/local/redis/bin/redis-server {}/redis.conf

查看启动的状态

image.png

开始进行集群创建

虽然服务启动了，但是目前每个服务之间都是独立的，没有任何关联。

我们需要执行命令来创建集群，在Redis5.0之前创建集群比较麻烦，5.0之后集群管理命令都集成到了redis-cli中。

1）Redis5.0之前

Redis5.0之前集群命令都是用redis安装包下的src/redis-trib.rb来实现的。因为redis-trib.rb是有ruby语言编写的所以需要安装ruby环境。

 # 安装依赖
 yum -y install zlib ruby rubygems
 gem install redis

通过命令来管理集群

# 进入redis的src目录
cd /tmp/redis-6.2.4/src
# 创建集群
./redis-trib.rb create --replicas 1 192.168.216.140:7001 192.168.216.140:7002 192.168.216.140:7003 192.168.216.140:8001 192.168.216.140:8002 192.168.216.140:8003

2）Redis5.0以后

我们使用的是Redis6.2.4版本，集群管理以及集成到了redis-cli中，格式如下：

redis-cli --cluster create --cluster-replicas 1 192.168.216.140:7001 192.168.216.140:7002 192.168.216.140:7003 192.168.216.140:8001 192.168.216.140:8002 192.168.216.140:8003

image.png

image.png

通过命令可以查看集群状态：

image.png

操作测试：

发现在第二次进行set的时候报错了，这个时候需要加上 -c 这个参数就可以了

image.png

添加了-c参数的情况

image.png

插槽机制

image.png

image.png

集群伸缩

image.png

故障转移

image.png

image.png

avatar
文章
阅读
粉丝