为什么需要主从复制和读写分离
在实际生产环境中,如果对数据库的读和写都在同一个数据库服务器中,无论是在安全性、高可用性,还是高并发性等各个方面都是完全不能满足实际需求的,因此,一般来说都是通过主从复制的方式来同步数据,再通过读写分离来提升数据的并发负载能力这样的方案来进行部署和实施。
一台主机MySQL带两台从MySQL进行了数据复制,前端应用在进行数据库写操作时,对主设备进行操作,在进行读操作时,对两台从设备进行操作,这样大量减轻了对主设备的压力。
主从复制的原理
MySQL的主从复制和MySQL的读写分离两者有着紧密的联系,首先要部署主从复制,只有主次那个复制完成了,才能挂载此基础上进行数据的读写分离。
MySQL支持的复制类型
- STATEMENT:基于语句的复制
在主服务器上执行的SQL语句,在从服务器上执行同样的语句,MySQL默认采用基于语句的复制,效率比较高。
- ROW:基于行的复制
把改变的内容复制过去,而不是把命令再从服务器上执行一遍。
- MIXED:混合类型的复制
默认采用基于语句的复制,一旦发现基于语句无法精确复制时,就会采用基于行的复制。
复制的工作过程
①在每个事务更新数据完成之前,Master在进行二进制日志记录这些改变。写入二进制日志完成后,Master通知存储引擎提交事务。
②Slaver将Master的Binary log复制到其中继日志。首先,Slaver开始一个工作线程-I/O线程在Master上打开一个普通的连接,然后开始Binlog dump process。Binlog dump process从Master的二进制日志中读取事件,如果已经跟上Master,他会睡眠并等待Master产生新的事件,I/O线程将这些事件写入中继日志。
③SQL slave thread(SQL从线程)处理该过程的最后一步。SQL线程从中继日志读取事件,并重放其中的事件而更新Slave的数据,使其与Master中的数据一致。只要该线程与I/O线程保持一致,中继日志通常会位于OS的缓存中,所以中继日志的开销很小。
复制过程有一个很重要的限制,即复制在Slave上是串行化的,也就是说Master上的并行更新操作不能在Slave上并行操作。
MySQL主从复制架构的类型
- 一主多从
- M-S-S:一主、一中继、多从
- M-M:双主互备
- M-M-M:互为主备
- MGR:
MySQL主从复制搭建
环境:
Master:192.168.1.128 Mysql5.7
Slave:192.168.1.129 Mysql5.7
Slave:192.168.1.130 Mysql5.7
一主两备结构图:
实验步骤
#三台服务器关闭防火墙
systemctl stop firewalld.service
systemctl disable firewalld.service
setenforce 0
MYSQL主从服务器时间同步
时间同步:
- 每台mysql服务器需要设置时间同步,以免数据同步时产生错乱。
- 如果不通外网,则使用ntp服务。如果通外网,可以使用网络时钟源。
主服务器使用本地时钟源
#安装时间同步工具(本地设置时钟源)
yum install -y ntp
#修改ntp配置文件,在末尾加入
vim /etc/ntp.conf
server 127.127.1.0 #设置本地时钟源,注意修改网段(72是网段)
fudge 127.127.1.0 stratum 8 #设置时间层级为8(限制在15以内)
#开启ntpd
systemctl start ntpd
两台从服务器同步主服务器的时间
yum install -y ntp #安装时间同步工具
systemctl start ntpd #开启ntpd
/usr/sbin/ntpdate 192.168.1.128 #和主服务器进行时间同步
crontab -e #设置定时任务
*/30 * * * * /usr/sbin/ntpdate 192.168.1.128 #每30分钟同步一次
crontab -l #查看计划性任务
systemctl status crond.service #查看服务是否开启
主服务器mysql配置
修改配置文件,创建一个同步账号授权给从数据库使用。
vim /etc/my.cnf
log-bin = mysql-bin #添加,主服务器开启二进制日志
binlog_format = MIXED
log-slave-updates = true #添加,允许slave从master复制数据时可以写入到自己的二进制日志
expire_logs_days = 7 #设置二进制日志文件过期时间,默认值为0,表示logs不过期
max_binlog_Size = 500M #设置二进制日志限制大小,如果超出给定值,日志就会发生滚动,默认值是1GB
systemctl restart mysqld #重启mysql服务
mysql -uroot -p
grant replication slave on *.* to 'gb'@'192.168.1.%' identified by '123123'; #同步权限所有用户所有表指定登录地址网段设置密码为123123
flush privileges; #刷新权限
show master status; #查看二进制文件
两台从服务器的mysql配置
vim /etc/my.cnf
server-id = 2 #另外一台从服务器id值则不能为1、2
relay-log = relay-log_bin #添加、从服务器开启中继日志文件
relay-log-index = slave-relay-bin.index #添加定义中继日志文件位置与名称一般与二进制文件在同一目录
relay_log_recovery = 1 #选配项建议开启是优化的一部分
systemctl restart mysqld.service
mysql -u root -p
change master to master_host='192.168.1.128', master_user='gb', master_password='123123', master_log_file='mysql-bin.000015', master_log_pos=597;
#配置同步,注意master_log_file和master_log_pos的值要与master查询值一致
start slave; #启动同步,如果有报错执行reset alsve;
show slave status\G; #查看slave状态确保io和sql线程都是yes,代表同步正常
##注释:
slave_IO_Running: Yes #负责与主机 io通信
slave_SQL_Running: Yes #负责自己的slave mysql进程
验证主从复制效果
主服务器上创建新的数据库,执行 create database good;
去从服务器上查看是否同步成功,执行 show databases;
MySQL主从复制延迟
- master服务器高并发,形成大量事务
- 网络延迟
- 主从硬件设备导致cpu主频、内存io、硬盘io
- 是同步复制、而不是异步复制 从库优化Mysq1参数。比如增大innodb buffer pool size,让更多操作在Mysq1内存中完成,减少磁盘操作。
- 从库使用高性能主机。包括cpu强悍、内存加天。避免使用虚拟云主机,使用物理主机,这样提升了i/o万面性。
- 从库使用SSD磁盘
- 对络优化,避免跨机房实现同步
MySQL主从复制的几个同步模式
异步复制(Asynchronous replication)
MySQ默认的复制即是异步的,主库在执行完客户端提交的事务后会立即将结果返给客户端,并不关心从库是否已经接收并处理,这样就会有一个问题,主如果crash掉了,此时主上已经提交的事务可能并没有传到从上,如果此时,强行将从提升为主,可能导致新主上的数据不完整。
全同步复制(Fully synchronous replication)
指当主库执行完一个事务,所有的从库都执行了该事务才返回给客户端。因为需要等待所有从库执行完该事务才能返回,所以全同步复制的性能必然会受到严重的影响。
半同步复制(Semisynchronous replication)
介于异步复制和全同步复制之间,主库在执行完客户端提交的事务后不是立刻返回给客户端,而是等待至少一个从库接收到并写到relay log中才返回给客户端。相对于异步复制,半同步复制提高了数据的安全性,同时它也造成了一定程度的延迟,这个延迟最少是一个TCP/IP往返的时间。所以,半同步复制最好在低延时的网络中使用。
MySQL读写分离
- 读写分离就是只在主服务器上写,只在从服务器上读。基本的原理是让主数据库处理事务性操作,而从数据库处理select查询。数据库复制被用来把主数据库上事务性操作导致的变更同步到集群中的从数据库。
读写分离概述
- 读写分离,基本的原理是让主数据库处理事务性增、改、删操作(INSERT、UPDATE、DELETE),而从数据库处理SELECT查询操作。数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库。
使用读写分离的原因
- 因为数据库的“写”(写10000条数据可能要3分钟)操作是比较耗时的。
- 但是数据库的“读"(读10000条数据可能只要5秒钟)。
- 所以读写分离,解决的是,数据库的写入,影响了查询的效率。
什么时候使用读写分离
- 数据库不一定要读写分离,如果程序使用数据库较多时,而更新少,查询多的情况下会考虑使用。利用数据库主从同步,再通过读写分离可以分担数据库压力,提高性能。
目前较为常见的MySQL读写分离种类
基于程序代码内部实现
在代码中根据 select、insert 进行路由分类,这类方法也是目前生产环境应用最广泛的。
- 优点是性能较好,因为在程序代码中实现,不需要增加额外的设备为硬件开支;缺点是需要开发人员来实现,运维人员无从下手。
- 但是并不是所有的应用都适合在程序代码中实现读写分离,像一些大型复杂的Java应用,如果在程序代码中实现读写分离对代码改动就较大。
基于中间代理层实现
代理一般位于客户端和服务器之间,代理服务器接到客户端请求后通过判断后转发到后端数据库,有以下代表性程序。
- MySQL-Proxy。MysQL-Proxy 为MysQL 开源项目,通过其自带的1ua 脚本进行sQL判断。
- Atlas。是由奇虎360的Web平台部基础架构团队开发维护的一个基于MysQL协议的数据中间层项目。它是在mysql-proxy 0.8.2版本的基础上,对其进行了优化,增加了一些新的功能特性。360内部使用atlas运行的mysql业务,每天承载的读写请求数达几十亿条。支持事物以及存储过程。
- Amoeba。由陈思儒开发,作者曾就职于阿里巴巴。该程序由Java语言进行开发,阿里巴巴将其用于生产环境。但是它不支持事务和存储过程。
- Mycat。是一款流行的基于Java语言编写的数据库中间件,是一个实现了MySql议的服务器,其核心功能是分库分表。配合数据库的主从模式还可以实现读写分离。
由于使用MysQL Proxy需要写大量的Lua脚本,这些Lua并不是现成的,而是需要自己去写。这对于并不熟悉MySQL roxy内置变量和MysQL Protocol 的人来说是非常困难的。
Amoeba是一个非常容易使用、可移植性非常强的软件。因此它在生产环境中被广泛应用于数据库的代理层。
搭建Mysql读写分离
搭建读写分离之前一定要搭建主从复制,前文我已经搭建过主从复制,这里就不再重复操作了
环境:
Master 服务器:192.168.1.128 mysql5.7
Slave1 服务器:192.168.1.129, mysql5.7
Slave2 服务器:192.168.1.130 mysql5.7
Amoeba 服务器:192.168.1.10 jdk1.6、Amoeba
客户端:192.168.1.11 mysql5.7
结构图:
Amoeba服务器配置 192.168.1.10
安装Java环境 因为Amoeba基于是jdk1.5开发的,所以官方推荐使用jdk1.5或1.6|版本,高版本不建议使用。
cd /opt/
cp jdk-6u14-linux-x64.bin /usr/local/
#先将jdk的二进制文件上传到/opt/目录下,之后复制到/usr/local/目录下
cd /usr/local/
chmod +x jdk-6u14-linux-x64.bin #为二进制文件增加执行权限
./jdk-6u14-linux-x64.bin #运行(安装)
出现more之后一直回车,看到让你输入yes或no时输入yes,最后按enter
#设置环境变量
vim /etc/profile.d/java.sh
export JAVA_HOME=/usr/local/jdk1.6.0_14
export CLASSPATH=.:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
export PATH=$JAVA_HOME/lib:$JAVA_HOME/jre/bin/:$PATH
export AMOEBA HOME=/usr/local/amoeba
export PATH=$PATH:$AMOEBA_HOME/bin
source /etc/profile.d/java.sh #刷新文件,使立即生效
java -version #查看版本号
安装 Amoeba软件
mkdir /usr/local/amoeba
#创建Amoeba的解压目录
cd /opt/
#将Amoeba安装包上传到/opt/目录
tar xf amoeba-mysql-binary-2.2.0.tar.gz -C /usr/local/amoeba/
#解压安装包到指定目录
chmod -R 755 /usr/local/amoeba/
#增加目录权限
/usr/local/amoeba/bin/amoeba
#如显示amoeba start|stop说明安装成功
配置 Amoeba读写分离,两个 Slave 读负载均衡
grant all on *.* to lwx@'192.168.1.%' identified by '123123';
#先登陆Master、Slave1、Slave2 的mysql,然后开放权限给 Amoeba 访问。注意:这里授权的用户名和密码,会在下一步写入数据库配置文件。
#再回到amoeba服务器配置amoeba服务:
cd /usr/local/amoeba/conf/
cp amoeba.xml amoeba.xml.bak
#备份配置文件,修改amoeba配置文件
vim amoeba.xml
--30行--
<property name="user">amoeba</property> #设置登录用户名
-32行--
<property name="password">123123</property> #设置登录密码
-115行-
<property name="defaultPool">master</property> #设置默认池为master
--117-去掉注释-
<property name="writePool">master</property> #设置写池
<property name="readPool">slaves</property> #设置读池
cp dbServers.xml dbServers.xml.bak
#备份数据库配置文件,之后修改数据库配置文件dbServers.xml
vim dbServers.xml
--23行-注释,作用:默认进入test库,注释掉以防mysql中没有test库时,会报错
<!-- <property name="schema">test</property> -->
--26行--
<property name="user">lwx</property> #添加登录用户
--28行-注释
<!-- mysql password -->
--29行--
<property name="password">123123</property> #添加登录密码
删除30行
--45行-
<dbServer name="master" parent="abstractServer"> #指定写池名
--48行-
<property name="ipAddress">192.168.1.128</property> #指定写池ip地址
--52行--
<dbServer name="slave1" parent="abstractServer"> #指定读池1名
--55行-
<property name="ipAddress">192.168.1.129</property> #指定读池1ip地址
复制52行到57行粘贴到58行下
--59行-
<dbServer name="slave2" parent="abstractServer"> #指定读池2名
--62行-
<property name="ipAddress">192.168.1.130</property> #指定读池2ip地址
--66行-
<dbServer name="slaves" virtual="true"> #指定读池名
--69行-
<property name="loadbalance">1</property> #指定负载均衡调度算法为轮询
--72行-
<property name="poolNames">slave1,slave2</property> #写上从节点名
cd /usr/local/amoeba/bin/
./amoeba start & #后台启动
netstat -natp | grep java #查看8066端口是否开启,默认端口为TCP 8066
amoeba上安装mariadb数据库
yum install -y mariadb-server mariadb
#安装mariadb服务
systemctl start mariadb.service
#开启服务
mysql -u amoeba -p123123 -h 192.168.1.10 -P8066
#通过amoeba服务器登录数据库,之后向库中写入数据
use good;
create table test(id varchar(4) not null,name varchar(10));
insert into test values(1,'wyn');
#通过amoeba服务器代理访问mysql ,再通过客户端连接mysql后写入的数据只有主服务会记录,然后同步给从--从服务器
查看master
查看slave:
测试读写分离
#在两台slave服务器上,关闭同步:
stop slave; #关闭同步
#在slave1上写入数据:
insert into test values('3','ikun');
#在slave2上写入数据:
insert into test values('4','bjt');
#在master服务器上写入数据:
insert into test values('2','hcy');
#在客户端上查看数据:
use good;
select * from test;
#客户端会分别向slave1和slave2读取数据(轮询),显示的只有在两个从服务器上添加的数据,没有在主服务器上添加的数据。说明读写是分离的,只从slave中读取数据。
insert into test values('5','wll'); #客户端插入数据,只有主服务器上有此数据
#在两个从服务器上执行 start slave; 即可实现同步主服务器中添加的数据
start slave; #开启同步
select * from test;