基于Docker搭建Redis一主两从三哨兵|Java 开发实战

361 阅读8分钟

本文正在参加「Java主题月 - Java 开发实战」,详情查看 活动链接

获取Redis镜像

docker命令拉取镜像

docker pull redis

查看镜像

docker image ls

获取并修改redis配置文件

redis官方提供了一个配置文件样例,通过wget工具下载下来。

wget http://download.redis.io/redis-stable/redis.conf 在此只做配置主从关系的必要修改

其中redis服务器的master和slave角色使用的配置文件还会有些不同,下面分别进行说明。

首先说明一下,正常情况下配置主从关系需要多台机器,但现实往往不允许。所以现在在一台机器上模拟。

将下载下来的redis.conf复制三份,分别命名为 redis-master.conf,redis-slave1.conf,redis-slave2.conf

cp redis.conf redis-master.conf
cp redis.conf redis-slave1.conf
cp redis.conf redis-slave2.conf

将三个配置文件我放在了/usr/local/docker-redis/目录下

首先修改master的配置文件

vim redis-master.conf

# 注释这一行,表示Redis可以接受任意ip的连接
# bind 127.0.0.1 

# 关闭保护模式
protected-mode no 

# 让redis服务后台运行
daemonize yes 
# 设定主库的密码,用于认证,如果主库开启了requirepass选项这里就必须填相应的密码
masterauth <master-password>
# 设定密码(可选,如果这里开启了密码要求,slave的配置里就要加这个密码. 只是练习配置,就不使用密码认证了)
 requirepass masterpassword 

# 配置日志路径,为了便于排查问题,指定redis的日志文件目录
logfile "/var/log/redis/redis.log"

如果是服务器,redis密码很重要,因为redis默认没密码有漏洞,有很多人利用redis漏洞来使你的服务器挖矿,亲身体会。

其次修改slave配置。

vim redis-slave1.conf

# 注释这一行,表示Redis可以接受任意ip的连接
# bind 127.0.0.1 

# 关闭保护模式
protected-mode no 

# 让redis服务后台运行
daemonize yes 

# 设定密码(可选,如果这里开启了密码要求,slave的配置里就要加这个密码)
requirepass masterpassword 

# 设定主库的密码,用于认证,如果主库开启了requirepass选项这里就必须填相应的密码
masterauth <master-password>

# 设定master的IP和端口号,redis配置文件中的默认端口号是6379
# 低版本的redis这里会是slaveof,意思是一样的,因为slave是比较敏感的词汇,所以在redis后面的版本中不在使用slave的概念,取而代之的是replica
# 将35.236.172.131做为主,其余两台机器做从。ip和端口号按照机器和配置做相这里的IP地址往下看。
replicaof 198.18.0.2 6379

# 配置日志路径,为了便于排查问题,指定redis的日志文件目录
logfile "/usr/local/logs/redis.log"

上方提到的这个主节点地址为master的docker容器的地址,可以通过以下命令查看

docker inspect redis_master  # 用来查看容器的详细信息

slave2配置与上述相同。

启动容器

首先以后台模式运行master容器,注意文件的地址

docker run -it --name redis-master --network=dockercompose --ip 172.19.0.2 -v /data/docker_redis/redis-conf/redis-master.conf:/usr/local/redis/redis.conf -d -p 6379:6379 redis /bin/bash

首先以后台模式运行slave1容器,注意文件的地址和端口号,物理机的端口号不可冲突

$ docker run -it --name redis-master -v /usr/local/docker-redis/redis-slave1.conf:/usr/local/redis/redis.conf -d -p 6380:6379 redis /bin/bash

slave2启动同上

接下来进入容器里启动redis服务器。

以交互模式进入容器redis-master

docker exec -it redis-master bash

创建日志文件目录,与配置文件相同

mkdir /usr/local/logs/
touch /usr/local/logs/redis.log

启动redis服务器,如果没有任何输出,就说明成功了

redis-server /usr/local/redis/redis.conf

在容器里启动一个redis客户端

redis-cli

输入密码,进行身份验证

127.0.0.1:6379> auth password

执行info命令,查看服务器状态

127.0.0.1:6379> info

如果是主,这里的role的值会是master,如果是从,这里的role的值会是slave

image.png

对于slave,还要查看master_link_status这个属性值。slave上这个属性值为up就说明主从复制是OK的,否者就有问题。如果从机状态不为up,首先排查主机的端口是否被限,然后查看redis日志排查原因

退出客户端

127.0.0.1:6379> quit

最后退出容器

exit

验证主从复制

主从搭建成功后,可以通过在master上写入一个key-value值,查看是否会同步到slave上,来验证主从同步是否能成功

redis-cli
auth password
set test hello

在任意slave机器上进入容器,也运行一个redis-cli,查询这个key的值。如果能查询到这个值,且与主机上的值相同,说明主从同步成功。经测试,主动同步成功。

redis-cli
auth password
get test 

添加哨兵

可以在主发生故障后,自动进行故障转移,从从机里选出一台升级为主机,并持续监听着原来的主机,当原来的主机恢复后,会将其作为新主的从机。

哨兵先监听主,通过对主发送info命令,获取到从的信息,然后也会监听到从。另外哨兵都会像主订阅__sentinel__:hello频道,当有新的哨兵加入时,会向这个频道发送一条信息,这条信息包含了该哨兵的IP和端口等信息,那么其他已经订阅了该频道的哨兵就会收到这条信息,就知道有一个新的哨兵加入。这些哨兵会与新加入和哨兵建立连接,选主是需要通过这个连接来进行投票。这个关系可以用下面这个图来描述

image.png

获取并修改sentinel配置文件

通过wget命令获取sentinel的配置文件

wget http://download.redis.io/redis-stable/sentinel.conf

修改配置文件以下几项

vim sentinel.conf

# 让sentinel服务后台运行
daemonize yes 

# 修改日志文件的路径
logfile "/var/log/redis/sentinel.log"

# 修改监控的主redis服务器
# 最后一个2表示,两台机器判定主被动下线后,就进行failover(故障转移)
sentinel monitor mymaster 192.18.0.2 6379 2
# 主数据库密码,需要将配置放在sentinel monitor master 127.0.0.1 6379 1下面
sentinel auth-pass mymaster 123456789

启动容器

docker run -it --name sentinel -p 26379:26379 -v /usr/local/docker-redis/sentinel.conf:/usr/local/redis/sentinel.conf -d redis /bin/bash

运行哨兵

进入容器

docker exec -it sentinel bashdocker exec -it sentinel bash

创建日志目录和文件

mkdir /usr/local/logs
touch /usr/local/logs/sentinel.log

启动sentinel

redis-sentinel /usr/local/redis/sentinel.conf

查看是否生效

cat /usr/local/logs/sentinel.log

验证故障转移

为了验证哨兵机制下的自动主从切换,我们将主上的redis进程kill掉。

doker top reedis-master

找到redisserver的PID

kill -9 PID

稍等几秒钟后,就有另外一台从升级为主机,实验时是第三台机器,也就是redis-3升级为了主,用info命令查询可以看到redis-3服务器的角色变成的master。说明自动主从切换成功。

Python如何使用Redis

但当我用Python使用的时候出现了两个问题,这里记录一下: 1、redis.exceptions.ConnectionError: Error 113 connecting to 172.19.0.3:6379. No route to host. 2、redis.exceptions.ConnectionError: Error 99 connecting to 192.168.7.71:6380. Cannot assign requested address.

1. 安装redis包

pip install redis

2.实现连接逻辑

from redis.sentinel import Sentinel
from redis import WatchError
SENTINEADDRESS = [('192.18.0.2', 26380), ('192.18.0.2', 26381), ('192.18.0.2', 26382)] def 
MYSETINEL = Sentinel(SENTINEADDRESS, socket_timeout=2000)  # 尝试连接最长时间单位毫秒, 1000毫
#有密码可以加上参数password
MASTER = MYSETINEL.master_for('mymaster', socket_timeout=2000)
MASTER.set("a","A")
result=MASTER.get("a")
print(result)

这时候出现错误:

redis.exceptions.ConnectionError: Error 113 connecting to 172.19.0.3:6379. No route to host.

3.解决外界访问容器IP过程

首先想到就是容器IP不可达,想到两种解决方案:

1.获取容器IP转为公网IP后建立连接(单连接正常,频繁连接出现错误)

2.搭建了python容器。

1.自我转换(有问题)

#转换的方法

    if s=="172.19.0.2":
        conn = redis.StrictRedis(
            host='192.18.0.2',
            port=6380,
            password="pwd",
            decode_responses=True)
        return conn
    elif s=="172.19.0.3":
        conn = redis.StrictRedis(
            host='192.18.0.2',
            port=6381,
            password="pwd",
            decode_responses=True)
        return conn
    else:
        conn = redis.StrictRedis(
            host='192.18.0.2',
            port=6382,
            password="pwd",
            decode_responses=True)
        return conn
from redis.sentinel import Sentinel
from apps.utils.handler import redis_conn
    sentinel = Sentinel([('192.18.0.2', 26380),('192.18.0.2', 26381),('192.18.0.2', 26382)
                         ],
                        socket_timeout=0.5)
master=sentinel.discover_master("mymaster")
master = redis_conn(master[0])
results = master.get("a")
print(results)   

可以正常使用。不过我执行的是定时脚本,需要频繁的写入操作,这时候出现新的问题了。

redis.exceptions.ConnectionError: Error 99 connecting to 192.168.7.71:6380. Cannot assign requested address. 原因就是频繁连接redis。最好的办法就是用哨兵原有的办法连接。

2.使用python容器

搭建完容器之后,执行定时脚本,发现依然会出现上述错误,那是因为我把哨兵放到了方法里面,我担心放在方法外面,当故障转移的时候,这个mymaster不能改变,是静态的,当我尝试把

master = sentinel.master_for('mymaster', socket_timeout=0.5, password='pwd', db=0,decode_responses=True)

拿出来之后,故意故障转移(kill掉主节点),程序自动切换到正确的节点。

结果是可行的。