MHA的高可用

夏威夷果陆胖胖
140 阅读11分钟

MHA

MHA的概述

  • 一套优秀的MySQL高可用环境下故障切换和主从复制的软件
  • MHA的出现就是解决MySQL单点的问题
  • MySQL故障过程中，MHA能做到0-30秒内自动完成故障切换MHA能在故障切换的过程中最大程度上保证数据的一致性以达到真正意义上的高可用

MHA的组成

  • MHA Manager (管理节点)
    • MHA Node 运行在每台 MySQL 服务器上。
  • MHANode (数据节点)
    • MHA Manaqer可以单独部署在一台独立的机器上，管理多个 master-slave集群:也可以部署在一台slave节点上
    • MHA Manager会定时探测集群中的master节点。当 master出现故障时，它可以自动将最新数据的
    • slave提升为新的mas然后将所有其他的slave重新指向新的master。整个故障转移过程对应用程序完全透明。

MHA的特点

  • 自动故障切换过程中，MHA试图从宕机的主服务器上保存进制日志，最大程度的保证数据不丢失
  • 使用半同步复制，可以大大降低数据丢失的风险
  • 目前MHA支持一主多从架构，最少三台服务，即一主两从

半同步复制

复制中有半同步复制、同步复制、异步复制等

  • 当slaves服务器中任意一台从服务器完整同步数据之后，就直接返回给客户端，不等其他的slave

MHA工作原理

  1. 从宕机崩溃的master 保存二进制日志事件 (binlog events)
  2. 识别含有最新的更新 slave 日志
  3. 应用差异的中继日志 (relay log) 到其他的slave
  4. 应用从master保存的二进制目志事件
  5. 提升一个 salve 为新的master
  6. 使其他的slave连接行的master 进行复制。

实验

思路

  1. 数据库安装
  2. 一主两从
  3. MHA搭建

实验环境

  • MHAmanager服务器：192.168.42.14，node和manager
  • master服务器：192.168.42.16，mysql和node
  • slave1服务器：192.168.42.17，mysql和node
  • slave2服务器：192.168.42.18，mysql和node

修改master、slave1、slave3服务器配置文件

master

[root@master ~]# systemctl stop firewall
[root@master ~]# setenforce 0
[root@master ~]# vim /etc/my.cnf
···················
 23 server-id = 1
 24 log_bin = master-bin
 25 log-slave-updates = true
···················
[root@master ~]# systemctl restart mysqld

image.png image.png slave1、slave2

[root@slave1 ~]# vim /etc/my.cnf
·············
 23 server-id = 2
 #slave2上面的需要改，不可以相同
 24 log_bin = master-bin
 25 relay-log=relay-log-bin
 26 relay-log-index=slave-relay-bin.index
················
[root@slave1 ~]# systemctl restart mysqld

image.png image.png

image.png image.png

给master、slave1、slave3添加软连接

ln -s /usr/local/mysql/bin/mysql /usr/sbin/ 
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/

image.png

image.png

image.png

配置mysql一主两从

master、slave1、slave3授权

mysql> grant replication slave on *.* to 'myslave'@'192.168.42.%' identified by '123456';
#从数据库同步
grant all privileges on *.* to 'mha'@'192.168.42.%' identified by 'manager';
#授权给manager使用

让数据库通过主机名连接上主库
master
mysql> grant all privileges on *.* to 'mha'@'master' identified by 'manager';
mysql> flush privileges;

slave1
mysql> grant all privileges on *.* to 'mha'@'slave1' identified by 'manager';
mysql> flush privileges;

slave2
mysql> grant all privileges on *.* to 'mha'@'slave2' identified by 'manager';
mysql> flush privileges;

image.png

image.png

image.png

master查看二进制文件与同步

mysql> show master status;

image.png

slave1、slave2执行同步操作，并开启

mysql> change master to master_host='192.168.42.16',master_user='myslave',master_password='123456',master_log_file='master-bin.000001',master_log_pos=1840;
（不同时间写的实验，所以我就改为第二次写的显示了，但是图片没改）

mysql> start slave;

image.png

image.png

查看slaves上数据同步的结果

mysql> show slave status\G
#确保 IO 和 SQL 线程都是 Yes，代表同步正常。
Slave_IO_Running: Yes 
Slave_SQL_Running: Yes

image.png

image.png

slaves设置只读模式

mysql> set global read_only=1;

image.png

image.png

在master插入数据测试

master
mysql> create database ceshi;
mysql> use ceshi;
mysql> create table test(id int);
mysql> insert into test(id) values (1);

slaves查看
mysql> show databases;
mysql> use ceshi;
mysql> show tables;
mysql> select * from test;

image.png

image.png

image.png

manager上安装MHA软件

这个需要在所有的节点上安装依赖环境

[root@manager ~]# yum install epel-release --nogpgcheck -y
#所有服务器上都安装 MHA 依赖的环境，首先安装 epel 源
[root@manager ~]# yum install -y perl-DBD-MySQL \
> perl-Config-Tiny \
> perl-Log-Dispatch \
> perl-Parallel-ForkManager \
> perl-ExtUtils-CBuilder \
> perl-ExtUtils-MakeMaker \
> perl-CPAN

image.png

image.png

必须先安装node组件（所有节点）

对于每个操作系统版本不一样，这里 CentOS7.4 必须选择 0.57 版本。

在所有服务器上必须先安装 node 组件，最后在 MHA-manager 节点上安装 manager 组件，因为 manager 依赖 node 组件。

下载node安装包到opt目录下
[root@manager ~]# cd /opt/
[root@manager opt]# tar zxvf mha4mysql-node-0.57.tar.gz
[root@manager opt]# cd mha4mysql-node-0.57/
[root@manager mha4mysql-node-0.57]# perl Makefile.PL
[root@manager mha4mysql-node-0.57]# make && make install

image.png

image.png

安装manager组件

下载manager软件包到opt目录下
[root@manager opt]# tar zxvf mha4mysql-manager-0.57.tar.gz
[root@manager opt]# cd mha4mysql-manager-0.57/
[root@manager mha4mysql-manager-0.57]# perl Makefile.PL
[root@manager mha4mysql-manager-0.57]# make && make install

image.png

image.png

拓展

manager 组件安装后在/usr/local/bin 下面会生成几个工具，主要包括以下几个：

  • masterha_check_ssh 检查 MHA 的 SSH 配置状况
  • masterha_check_repl 检查 MySQL 复制状况
  • masterha_manger 启动 manager的脚本
  • masterha_check_status 检测当前 MHA 运行状态
  • masterha_master_monitor 检测 master 是否宕机
  • masterha_master_switch 控制故障转移（自动或者手动）
  • masterha_conf_host 添加或删除配置的 server 信息
  • masterha_stop 关闭manager

node 组件安装后也会在/usr/local/bin 下面会生成几个脚本（这些工具通常由 MHAManager 的脚本触发，无需人为操作）主要如下：

  • save_binary_logs 保存和复制 master 的二进制日志
  • apply_diff_relay_logs 识别差异的中继日志事件并将其差异的事件应用于其他的 slave
  • filter_mysqlbinlog 去除不必要的 ROLLBACK 事件（MHA 已不再使用这个工具）
  • purge_relay_logs 清除中继日志（不会阻塞 SQL 线程）

配置和无密码认证

manager
[root@manager ~]# ssh-keygen -t rsa
一直按回车
[root@manager ~]# ssh-copy-id 192.168.42.16
#将公钥传给master服务器
[root@manager ~]# ssh-copy-id 192.168.42.17
#将公钥传给slave1服务器
[root@manager ~]# ssh-copy-id 192.168.42.18
#将公钥传给slave2服务器

image.png

image.png

image.png

master
[root@master ~]# ssh-keygen -t rsa
[root@master ~]# ssh-copy-id 192.168.42.17
#将公钥传到slave1服务器上
[root@master ~]# ssh-copy-id 192.168.42.18
#将公钥传到slave2服务器上

image.png image.png

slave1
[root@slave1 ~]# ssh-keygen -t rsa
[root@slave1 ~]# ssh-copy-id 192.168.42.16
#将公钥传给master服务器
[root@slave1 ~]# ssh-copy-id 192.168.42.18
#将公钥传给slave2服务器

image.png

image.png

slave2
[root@slave2 ~]# ssh-keygen -t rsa
[root@slave2 ~]# ssh-copy-id 192.168.42.16
#将公钥传给master服务器
[root@slave2 ~]# ssh-copy-id 192.168.42.17
#将公钥传给slave1服务器

image.png

manager节点配置MHA

[root@manager ~]# cp -rp /opt/mha4mysql-manager-0.57/samples/scripts /usr/local/bin
#将manager配置复制一份到/usr/local/bin目录下
[root@manager ~]# ll /usr/local/bin/scripts/

说明：
master_ip_failover #自动切换时 VIP 管理的脚本
master_ip_online_change #在线切换时 vip 的管理
power_manager #故障发生后关闭主机的脚本
send_report #因故障切换后发送报警的脚本

[root@manager ~]# cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin　
#复制上述的自动切换时 VIP 管理的脚本到 /usr/local/bin 目录，这里使用master_ip_failover脚本来管理 VIP 和故障切换

#修改配置文件
[root@manage ~]# vim /usr/local/bin/master_ip_failover
#将原本的内容全部删除，添加以下内容
#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';

use Getopt::Long;

my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
#############################添加内容部分#########################################
my $vip = '192.168.10.200';                 #指定vip的地址
my $brdc = '192.168.10.255';                #指定vip的广播地址
my $ifdev = 'ens33';                    #指定vip绑定的网卡
my $key = '1';                        #指定vip绑定的虚拟网卡序列号
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";   #代表此变量值为ifconfig ens33:1 192.168.10.200
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";    #代表此变量值为ifconfig ens33:1 192.168.10.200 down
my $exit_code = 0;                      #指定退出状态码为0
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
##################################################################################
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);

exit &main();

sub main {

print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";

if ( $command eq "stop" || $command eq "stopssh" ) {

my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {

my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
## A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}

sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}

image.png

image.png

image.png

创建 MHA 软件目录并拷贝配置文件

这里使用app1.cnf配置文件来管理 mysql 节点服务器

[root@manage ~]# mkdir /etc/masterha
[root@manage ~]# cp /opt/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha
[root@manage ~]# vim /etc/masterha/app1.cnf
#删除原本的内容，直接复制并且修改节点服务器的ip地址
[server default]
manager_log=/var/log/masterha/app1/manager.log
manager_workdir=/var/log/masterha/app1
master_binlog_dir=/usr/local/mysql/data
master_ip_failover_script=/usr/local/bin/master_ip_failover
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
password=manager
ping_interval=1
remote_workdir=/tmp
repl_password=123456
repl_user=myslave
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.42.17 -s 192.168.42.18
shutdown_script=""
ssh_user=root
user=mha

[server1]
hostname=192.168.42.16
port=3306

[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.42.17
port=3306

[server3]
hostname=192.168.42.18
port=3306

解释：
[server default]
manager_log=/var/log/masterha/app1/manager.log　　　　　　#manager日志
manager_workdir=/var/log/masterha/app1　　　　　　　　    #manager工作目录
master_binlog_dir=/usr/local/mysql/data/　　　　　　　　　#master保存binlog的位置，这里的路径要与master里配置的binlog的路径一致，以便MHA能找到
master_ip_failover_script=/usr/local/bin/master_ip_failover　　#设置自动failover时候的切换脚本，也就是上面的那个脚本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change　　#设置手动切换时候的切换脚本
password=manager      #设置mysql中root用户的密码，这个密码是前文中创建监控用户的那个密码
ping_interval=1       #设置监控主库，发送ping包的时间间隔，默认是3秒，尝试三次没有回应的时候自动进行failover
remote_workdir=/tmp     #设置远端mysql在发生切换时binlog的保存位置
repl_password=123       #设置复制用户的密码
repl_user=myslave     #设置复制用户的用户
report_script=/usr/local/send_report　　　　　#设置发生切换后发送的报警的脚本
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.10.14 -s 192.168.10.15  #指定检查的从服务器IP地址
shutdown_script=""      #设置故障发生后关闭故障主机脚本（该脚本的主要作用是关闭主机防止发生脑裂,这里没有使用）
ssh_user=root       #设置ssh的登录用户名
user=mha          #设置监控用户root

[server1]
hostname=192.168.10.16
port=3306

[server2]
hostname=192.168.10.14
port=3306
candidate_master=1
#设置为候选master，设置该参数以后，发生主从切换以后将会将此从库提升为主库，即使这个从库不是集群中最新的slave

check_repl_delay=0
#默认情况下如果一个slave落后master 超过100M的relay logs的话，MHA将不会选择该slave作为一个新的master， 因为对于这个slave的恢复需要花费很长时间；通过设置check_repl_delay=0，MHA触发切换在选择一个新的master的时候将会忽略复制延时，这个参数对于设置了candidate_master=1的主机非常有用，因为这个候选主在切换的过程中一定是新的master

[server3]
hostname=192.168.10.15
port=3306

手动开启虚拟ip
[root@master ~]# /sbin/ifconfig ens33:1 192.168.42.200/24
#第一次配置需要在 Master 节点上手动开启虚拟IP

image.png

image.png

image.png

manage节点测试无密码认证

[root@manage ~]# masterha_check_ssh -conf=/etc/masterha/app1.cnf
#如果正常最后会输出 successfully

image.png

manage节点测试mysql主从连接

[root@manage ~]# masterha_check_repl -conf=/etc/masterha/app1.cnf

image.png

在 manager 节点上启动 MHA

nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

解释：
remove_dead_master_conf：该参数代表当发生主从切换后，老的主库的 ip 将会从配置文件中移除。  
--manger_log：日志存放位置。  
--ignore_last_failover：在缺省情况下，如果 MHA 检测到连续发生宕机，且两次宕机间隔不足 8 小时的话，则不会进行 Failover， 之所以这样限制是为了避免 ping-pong 效应。该参数代表忽略上次 MHA 触发切换产生的文件，默认情况下，MHA 发生切换后会在日志记目录，也就是上面设置的日志app1.failover.complete文件，下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换，除非在第一次切换后收到删除该文件，为了方便，这里设置为--ignore_last_failover。

image.png

查看 MHA 状态，可以看到当前的 master 是 Mysql1 节点

masterha_check_status --conf=/etc/masterha/app1.cnf

image.png

查看 MHA 日志，可以看到当前的 master 是 192.168.42.14，如下所示

cat /var/log/masterha/app1/manager.log | grep "current master"

image.png

查看 Mysql1 的 VIP 地址 192.168.229.200 是否存在，这个 VIP 地址不会因为 manager 节点停止 MHA 服务而消失

ifconfig

#若要关闭 manager 服务，可以使用如下命令。
masterha_stop --conf=/etc/masterha/app1.cnf
或者可以直接采用 kill 进程 ID 的方式关闭

故障模拟以及故障恢复的步骤

故障模拟

master节点
tail -f /var/log/masterha/app1/manager.log
#监控观察日志记录

master节点停止mysql服务
systemctl stop mysqld 
或 pkill -9 mysql

#正常自动切换一次后，MHA 进程会退出。HMA 会自动修改 app1.cnf 文件内容，将宕机的 mysql1 节点删除。查看 mysql2 是否接管 VIP
ifconfig

故障切换备选主库的算法

一般判断从库的是从（position/GTID）判断优劣，数据有差异，最接近于master的slave，成为备选主。

数据一致的情况下，按照配置文件顺序，选择备选主库。

设定有权重（candidate_master=1），按照权重强制指定备选主。

  1. 默认情况下如果一个slave落后master 100M的relay logs的话，即使有权重，也会失效。
  2. 如果check_repl_delay=0的话，即使落后很多日志，也强制选择其为备选主。

故障修复步骤

修复mysql

systemctl restart mysqld

修复主从

show master status;
#在现主库服务器 Mysql2 查看二进制文件和同步点

change master to master_host='192.168.229.80',master_user='myslave',master_password='12345',master_log_file='master-bin.000001',master_log_pos=1745; 

start slave;
#在原主库服务器 mysql1 执行同步操作

在 manager 节点上修改配置文件app1.cnf（再把这个记录添加进去，因为它检测掉失效时候会自动消失）

vi /etc/masterha/app1.cnf 
...... secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.42.17 -s 192.168.42.18 
...... 
[server1] 
hostname=192.168.42.16 
port=3306 
[server2] 
candidate_master=1 
check_repl_delay=0 
hostname=192.168.42.18 
port=3306 
[server3] 
hostname=192.168.42.17 
port=3306

在manage节点启动MHA

nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

dos2unix /usr/local/bin/master_ip_failover
#解决中英文不兼容报错
avatar
文章
阅读
粉丝