Mysql主从复制与读写分离

中强要加油了
97 阅读16分钟

1.概念

1.1什么是读写分离

读写分离，基本的原理是让主数据库处理事务性增、改、删操作( INSERT、UPDATE、DELETE) ，而从数据库处理SELECT查询操作。数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库。

1.2 为什么要读写分离呢

因为数据库的“写”（写10000条数据可能要3分钟）操作是比较耗时的。

但是数据库的“读”（读10000条数据可能只要5秒钟）；

所以读写分离，解决的是，数据库的写入，影响了查询的效率。

1.3 什么时候要读写分离?

数据库不一定要读写分离，如果程序使用数据库较多时，而更新少，查询多的情况下会考虑使用。利用数据库主从同步，再通过读写分离可以分担数据库压力，提高性能。

1.4 主从复制与读写分离

在实际的生产环境中，对数据库的读和写都在同一个数据库服务器中，是不能满足实际需求的。无论是在安全性、高可用性还是高并发等各个方面都是完全不能满足实际需求的。

因此，通过主从复制的方式来同步数据，再通过读写分离来提升数据库的并发负载能力。有点类似于rsync（文件同步工具），但是不同的是rsync是对磁盘文件做备份，而mysql主从复制是对数据库中的数据、语句做备份。

1.5 mysql支持的复制类型

（1） STATEMENT：基于语句的复制。在服务器上执行sql语句，在从服务器上执行同样的语句，mysql默认采用基于语句的复制（5.7版本之前），执行效率高。高并发的情况可能会出现执行顺序的误差，事务的死锁。

（2）ROW：基于行的复制。把改变的内容复制过去，而不是把命令在从服务器上执行一 遍。精确，但效率低，保存的文件会更大。（5.7版本之后默认采用ROW模式）

（3）MIXED：混合类型的复制。默认采用基于语句的复制，一旦发现基于语句无法精确复制时，就会采用基于行的复制。更智能，所以大部分情况下使用MIXED。

1.6 主从复制的工作过程

Master节点需要开启二进制日志，Slave节点需要开启中继日志。

（1）Master 节点将数据的改变记录成二进制日志（bin log） ，当Master上的数据发生改变时（增删改），则将其改变写入二进制日志中。

（2）Slave节点会在一定时间间隔内对Master的二进制日志进行探测其是否发生改变，如果发生改变，则开始一个I/O线程请求Master的二进制事件。（请求二进制数据）

（3）同时Master 节点为每个I/O线程启动一个dump线程，用于通知和向其发送二进制事件，I/O线程接收到bin-log内容后，将内容保存至slave节点本地的中继日志（Relay log）中，Slave节点将启动SQL线程从中继日志中读取二进制事件，在本地重放，即解析成sql 语句逐一执行，使得其数据和Master节点的保持一致。最后I/O线程和SQL线程将进入睡眠状态，等待下一次被唤醒。

image.png

记住两个日志和三个线程：

两个日志：二进制日志（bin log） 、中继日志（Relay log）

三个线程：I/O线程、dump线程、SQL线程

注意：

  • 中继日志通常会位于 OS 缓存中，所以中继日志的开销很小。

  • 复制过程有一个很重要的限制，即复制在 Slave上是串行化的，也就是说 Master上的并行更新操作不能在 Slave上并行操作。

  • 半同步复制，会多一个ack确认线程（ack collector thread），专门用于接收slave 的反馈信息（收集slave节点返回的ack信息）。

1.7 数据库主从数据不一致解决方案

方法一：忽略错误后，继续同步

该方法适用于主从库数据相差不大，或者要求数据可以不完全统一的情况，数据要求不严格的情况。

方式二：重新做主从，完全同步

该方法适用于主从库数据相差较大，或者要求数据完全统一的情况。

1.8 mysql从服务器挂了 恢复后怎么保证数据同步？

  • 物理方法：  rsync 磁盘文件同步。 使用文件恢复，主节点需要停服务。
  • 主从复制：  将从节点原有库删除，通过偏移量，重新做一次主从复制。

1.9 半同步复制什么情况下会降为异步复制？什么时候又会恢复同步复制？

  • 当半同步复制发生超时（由rpl_semi_sync_master_timeout 参数控制，默认为10000ms， 即10s），会暂时关闭半同步复制，转而使用异步复制，也就是会自动降为异步工作。

  • 当malster dump 线程发送完一个事务的所有事件之后，如果在rpl_ semi_sync_master_ timeout 内，收到了从库的响应，则主从又重新恢复为半同步复制。

2.mysql主从复制延迟原因和优化方法

主从复制延迟原因：

  1. master服务器高并发，形成大量事务。
  1. 网络延迟。
  1. 主从硬件设备导致（cpu主频、内存IO、硬盘IO）。
  1. 是同步复制，而不是异步复制。

优化方法：

  • 从库优化Mysql参数。比如增大innodb_buffer_pool_size，让更多操作在Mysql内存中完成，减少磁盘操作。

  • 从库使用高性能主机。包括cpu强悍、内存加大。避免使用虚拟云主机，使用物理主机，这样提升了I/O方面性。

  • 从库使用SSD磁盘。

  • 网络优化，避免跨机房实现同步。

3.mysql主从复制的几个同步模式

1、异步复制（Asynchronous replication）

MySQL默认的复制即是异步的，主库在执行完客户端提交的事务后会立即将结果返给客户端，并不关心从库是否已经接收并处理，这样就会有一个问题，主如果crash掉了，此时主上已经提交的事务可能并没有传到从上，如果此时，强行将从提升为主，可能导致新主上的数据不完整。

2、全同步复制（Fully synchronous replication）

指当主库执行完一个事务，所有的从库都执行了该事务才返回给客户端。因为需要等待所有从库执行完该事务才能返回，所以全同步复制的性能必然会收到严重的影响。

3、半同步复制（Semisynchronous replication）

介于异步复制和全同步复制之间，主库在执行完客户端提交的事务后不是立刻返回给客户端，而是等待至少一个从库接收到并写到relay log中才返回给客户端。相对于异步复制，半同步复制提高了数据的安全性，同时它也造成了一定程度的延迟，这个延迟最少是一个TCP/IP往返的时间。所以，半同步复制最好在低延时的网络中使用。

4.mysql主从复制的部署流程

4.1 操作内容

实验环境：

Master 服务器：192.168.223.104，mysql5.7

Slave1 服务器：192.168.223.105，mysql5.7

Slave2 服务器：192.168.223.106，mysql5.7

image.png

  1. 主从服务器时间同步。
  2. 配置主服务器，修改其配置文件，在主数据库中创建一个同步账号授权给从数据库使用。
  3. 配置从数据库，修改其配置文件，在从数据库中配置同步。
  4. 验证能否同步成功。

4.2 具体操作

  1. 设置两台从服务器与主服务器的时间同步，安装ntp修改配置文件
 #安装时间同步工具（本地设置时钟源）
 [root@yuji ~]# yum install -y ntp
 ​
 #修改ntp配置文件，在末尾加入
 [root@yuji ~]# vim /etc/ntp.conf
 server 127.127.223.0              #设置本地时钟源，注意修改网段（223是网段）
 fudge 127.127.223.0 stratum 8     #设置时间层级为8（限制在15以内）
 ​
 #开启ntpd
 [root@yuji ~]# systemctl start ntpd

image.png

image.png

2.两台从服务器进行与主服务器的时间同步

 #安装时间同步工具
 yum install -y ntp
 #开启ntpd
 systemctl start ntpd
 ​
 #和主服务器进行时间同步
 /usr/sbin/ntpdate 192.168.72.192
 ​
 #设置定时任务，每30分钟同步一次
 crontab -e  
 */30 * * * * /usr/sbin/ntpdate 192.168.72.192

image.png

image.png

  1. 配置主mysql服务器配置开启二进制文件日志
 [root@yuji ~]# vim /etc/my.cnf
 [mysqld]
 ......
 server-id = 1               #指定服务ID号，master和两台slave都要不同
 log-bin=mysql-bin           #添加，主服务器开启二进制日志
 binlog_format = MIXED       #指定二进制日志(binlog)的记录格式为MIXED
 log-slave-updates=true      #添加，允许slave从master复制数据时可以写入到自己的二进制日志
 expire_logs_days = 7        #设置二进制日志文件过期时间，默认值为0，表示logs不过期
 max_binlog_size = 500M      #设置二进制日志限制大小，如果超出给定值，日志就会发生滚动，默认值是1GB
 ​
 #重启服务
 [root@yuji ~]# systemctl restart mysqld
 ​
 [root@yuji ~]# mysql -u root -p123456
 #给从服务器授权
 grant replication slave on *.* to 'myslave'@'192.168.223.%' identified by '123123';  
 flush privileges;               #刷新权限
 ​
 show master status;     #查看主服务器状态
 //显示如下
 +-------------------+----------+--------------+------------------+
 | File              | Position | Binlog_Do_DB | Binlog_Ignore_DB |
 +-------------------+----------+--------------+------------------+
 | mysql-bin.000001  |      604 |              |                  |
 +-------------------+----------+--------------+------------------+
 1 row in set (0.00 sec)
 ​
 #File 列显示日志名，Position 列显示偏移量

image.png

image.png

image.png

image.png

  1. 配置从服务器的配置文件打开中继日志
 #修改配置文件
 [root@s1 ~]# vim /etc/my.cnf
 [mysqld]
 ......
 server-id = 2            #修改，注意id与Master的不同，两个Slave的id也要不同
 relay-log=relay-log-bin  #添加，开启中继日志，从主服务器上同步日志文件记录到本地
 relay-log-index=slave-relay-bin.index   #添加，定义中继日志索引文件的位置和名称，一般和relay-log在同一目录
 relay_log_recovery = 1                  #选配项
 #当 slave 从库宕机后，假如 relay-log 损坏了，导致一部分中继日志没有处理，则自动放弃所有未执行的 relay-log，并且重新从 master 上获取日志，这样就保证了 relay-log 的完整性。默认情况下该功能是关闭的，将 relay_log_recovery 的值设置为 1 时， 可在 slave 从库上开启该功能，建议开启。
 ​
 #重启服务
 [root@s1 ~]# systemctl restart mysqld     
 ​
 #登录数据库，进行同步设置
 [root@s1 ~]# mysql -u root -p
 CHANGE master to master_host='192.168.72.192',master_user='myslave',master_password='123123',master_log_file='mysql-bin.000006',master_log_pos=603;     
 #配置同步，注意 master_log_file 和 master_log_pos 的值要与Master查询的一致
 ​
 start slave;                #启动同步，如有报错执行 reset slave;
 ​
 show slave status\G         #查看 Slave 状态
 ##确保 IO 和 SQL 线程都是 Yes，代表同步正常。
 Slave_IO_Running: Yes               #负责与主机的IO通信
 Slave_SQL_Running: Yes              #负责自己的slave mysql进程
 ​
 ##一般 "Slave_IO_Running: No" 的可能原因：
 1. 网络不通 
 2. my.cnf配置有问题（server-id重复）
 3. 密码、file文件名、pos偏移量不对 
 4. 防火墙没有关闭

image.png

image.png

image.png

5.在我们的主服务器中建立一个库与表检测我们的两个从服务器是否同步了

image.png

image.png

5.配置mysql数据库的同步类型为半同步复制

 -------1、所有服务器关闭防火墙------
 systemctl disable --now firewalld
 setenforce 0
 ​
 ​
 -------2、主数据库配置---------
 vim /etc/my.cnf             #在 [mysqld] 区域添加下面内容
 ......
 plugin-load=rpl_semi_sync_master=semisync_master.so     #加载mysql半同步复制的插件
 rpl_semi_sync_master_enabled=ON         #或者设置为"1"，即开启半同步复制功能
 rpl-semi-sync-master-timeout=1000       #超时时间为1000ms，即1s
 ​
 systemctl restart mysqld
 ​
 ​
 -------3、从数据库配置-----------
 vim /etc/my.cnf 
 ......
 plugin-load=rpl_semi_sync_slave=semisync_slave.so
 rpl_semi_sync_slave_enabled=ON
 ​
 systemctl restart mysqld
 ​
 ​
 -------4、查看半同步是否在运行---------------
 #主数据库执行
 show status like 'Rpl_semi_sync_master_status';
 show variables like 'rpl_semi_sync_master_timeout';
 ​
 #从数据库执行（此时可能还是OFF状态，需要在下一步重启IO线程后，从库半同步状态才会为ON）
 show status like 'Rpl_semi_sync_slave_status';
 ​
 #重启从数据库上的IO线程
 STOP SLAVE IO_THREAD;
 START SLAVE IO_THREAD;
 ​
 #在主库查询半同步状态
 show status like '%Rpl_semi%';  
 ​
 ​
 参数说明：
 Rpl_semi_sync_master_clients                    #半同步复制客户端的个数
 Rpl_semi_sync_master_net_avg_wait_time          #平均等待时间（默认毫秒）
 Rpl_semi_sync_master_net_wait_time              #总共等待时间
 Rpl_semi_sync_master_net_waits                  #等待次数
 Rpl_semi_sync_master_no_times                   #关闭半同步复制的次数
 Rpl_semi_sync_master_no_tx                      #表示没有成功接收slave提交的次数
 Rpl_semi_sync_master_status                     #表示当前是异步模式还是半同步模式，on为半同步
 Rpl_semi_sync_master_timefunc_failures          #调用时间函数失败的次数
 Rpl_semi_sync_master_tx_avg_wait_time           #事物的平均传输时间
 Rpl_semi_sync_master_tx_wait_time               #事物的总共传输时间
 Rpl_semi_sync_master_tx_waits                   #事物等待次数
 Rpl_semi_sync_master_wait_pos_backtraverse      #可以理解为"后来的先到了，而先来的还没有到的次数"
 Rpl_semi_sync_master_wait_sessions              #当前有多少个session因为slave的回复而造成等待
 Rpl_semi_sync_master_yes_tx                     #成功接受到slave事物回复的次数
 ​
 当半同步复制发生超时（由rpl_semi_sync_master_timeout参数控制，默认为10000ms，即10s），会暂时关闭半同步复制，转而使用异步复制，也就是会自动降为异步工作。
 当 master dump 线程发送完一个事务的所有事件之后，如果在 rpl_semi_sync_master_timeout 内，收到了从库的响应， 则主从又重新恢复为半同步复制。
  1. 添加主服务器半同步模块配置

image.png

2.添加从服务器的半同步配置

image.png

3.进入mysql检查自己有没有开起半同步模式

image.png

image.png

4.去主服务器上可以查看从服务器的半同步状态

image.png

5.测试半同步是否正常运行

image.png

6.mysql的读写分离

6.1 mysql读写分离原理

  • 读写分离就是只在主服务器上写，只在从服务器上读。
  • 基本的原理是让主数据库处理事务性操作，而从数据库处理select查询。
  • 数据库复制被用来把主数据库上事务性操作导致的变更，同步到集群中的从数据库。

6.2 目前较为常见的mysql读写分离分为两种

1）基于程序代码内部实现

在代码中根据select、insert进行路由分类，这类方法也是目前生产环境应用最广泛的。

优点是性能较好，因为在程序代码中实现，不需要增加额外的设备为硬件开支；缺点是需要开发人员来实现，运维人员无从下手。

但是并不是所有的应用都适合在程序代码中实现读写分离，像一些大型复杂的Java应用，如果在程序代码中实现读写分离对代码改动就较大。

2）基于中间代理层实现

代理一般位于客户端和服务器之间，代理服务器接到客户端请求后通过判断后转发到后端数据库，有以下代表性程序。

（1）MySQL-Proxy。MySQL-Proxy为MysQL开源项目，通过其自带的1ua脚本进行sQL判断。

（2）Atlas。是由奇虎360的Web平台部基础架构团队开发维护的一个基于MysQL协议的数据中间层项目。它是在mysql-proxy 0.8.2版本的基础上，对其进行了优化，增加了一些新的功能特性。360内部使用atlas运行的mysql业务，每天承载的读写请求数达几干保条。支持事物以及存储过程。

（3）Amoeba。由陈思儒开发，作者曾就职于阿里巴巴。该程序由Java语言进行开发，阿里巴巴将其用于生产环境。但是它不支持事务和存储过程。

（4）Mycat。是一款流行的基于Java语言编写的数据库中间件，是一个实现了MySq1协议的服务器，其核心功能是分库分表。配合数据库的主从模式还可以实现读写分离。

由于使用MysQLProxy需要写大量的ua脚本，这些Lua并不是现成的，而是需要自己去写。这对于并不熟悉MysQLProxy 内置变量和MySQL Protocol的人来说是非常困难的。

Amoeba是一个非常容易使用、可移植性非常强的软件。因此它在生产环境中被广泛应用于数据库的代理层。

6.3 使用amoeba来进行mysql的读写分离

6.3.1 实验内容

实验环境：

Master 服务器：192.168.223.104，mysql5.7，centos7-2

Slave1 服务器：192.168.223.105，mysql5.7，centos7-6

Slave2 服务器：192.168.223.106，mysql5.7，centos7-7

Amoeba 服务器：192.168.103，jdk1.6、Amoeba centos7-3

客户端：192.168.223.101， mysql5.7，centos7-4

使用amoeba服务器来进行mysql的读写分离，再使用客户端进行检测

image.png

6.3.2 具体操作

因为之前的操作已经搭建好了mysql服务器的主从复制，我们现在只要搭建好amoba服务器以及客户端

1.先安装amoeba所需要的jdk，先将安装包转到/opt，给jdk加执行权限

image.png

  1. ./直接执行这个程序就行了，一直翻页到最后输入yes

image.png

image.png

  1. 将这个文件移到我们规定的软件目录下/usr/local下

image.png

4.去/etc/profile.d/下创建一个启动文件

export JAVA_HOME=/usr/local/jdk1.6
export CLASSPATH=.:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
export PATH=$JAVA_HOME/bin:$JAVA_HOME/jre/bin:$PATH
export AMOEBA_HOME=/usr/local/amoeba
export PATH=$PATH:$AMOEBA_HOME/bin

image.png

5.先在/usr/local/下中创建amoeba目录，再去opt下把我们的amoeba包解压到这个文件夹

image.png

image.png

  1. 加载我们刚才创建的java.sh 脚本

image.png

  1. 启动amoeba服务

image.png

8.先在主从服务器上给mysql服务器上开放权限给Amoeba访问

grant all on *.* to test@'192.168.223.%' identified by '123123';

image.png

9.进入我们amoeba服务器进去修改配置文件

cd /usr/local/amoeba/conf/

cp amoeba.xml amoeba.xml.bak
vim amoeba.xml									#修改amoeba配置文件
--30行--
<property name="user">amoeba</property>
--32行-- 
<property name="password">123456</property>
--115行--
<property name="defaultPool">master</property>
--117-去掉注释-
<property name="writePool">master</property>
<property name="readPool">slaves</property>

image.png

image.png

  1. 修改dbservers.xml 文件，用来设置连接哪些服务器的
vim dbServers.xml								#修改数据库配置文件
--23行--注释掉  作用：默认进入test库 以防mysql中没有test库时，会报错
<!-- <property name="schema">test</property> -->
--26--修改
<property name="user">test</property>
--28-30--去掉注释
<property name="password">123.com</property>
--45--修改，设置主服务器的名Master
<dbServer name="master"  parent="abstractServer">
--48--修改，设置主服务器的地址
<property name="ipAddress">192.168.223.105</property>
--52--修改，设置从服务器的名slave1
<dbServer name="slave1"  parent="abstractServer">
--55--修改，设置从服务器1的地址
<property name="ipAddress">192.168.223.106</property>
--58--复制上面6行粘贴，设置从服务器2的名slave2和地址
<dbServer name="slave2"  parent="abstractServer">
<property name="ipAddress">192.168.80.12</property>
--65行--修改
<dbServer name="slaves" virtual="true">
--71行--修改
<property name="poolNames">slave1,slave2</property>

image.png

image.png

11.之后去执行amoeba 开启服务并放在后台执行

image.png

12.再去客户端上登录我们的amoeba服务

image.png

13.使用客户端查看我们是否有自己的lzq库和库中的数据

image.png

  1. 插入数据来测试主从服务是否正常运行

image.png

image.png

  1. 将从服务器的复制功能关闭，再在客户端添加数据来检测我们是否是从服务器在读数据

image.png

image.png

image.png

image.png

avatar
文章
阅读
粉丝