MYSQL日志管理及备份与恢复

白日梦最可笑
61 阅读11分钟

MYSQL日志管理

MySQL的日志默认保存在数据库文件的存储目录（一般为/usr/local/mysql/data/）。也可以修改配置文件，自定义日志文件的保存位置。

 vim/etc/my.cnf            #可以查看日志保存位置

主要的日志类型

  1. 错误日志
  2. 通用查询日志
  3. 二进制日志
  4. 慢查询日志

错误日志

错误日志，用来记录当MySQL启动、停止或运行时发生的错误信息，默认已开启。

 vim /etc/my.cnf

 [mysqld]
log-error=/usr/local/mysql/data/mysql_error.log   #指定日志的保存位置

通用查询日志

通用查询日志，用来记录MySQL的所有连接和语句，默认是关闭的  

 vim /etc/my.cnf
 ​
 [mysqld]
 general_log=ON
 general_log_file=/usr/local/mysql/data/mysql_general.log

二进制日志

二进制日志(binlog)，用来记录所有更新了数据或者已经潜在更新了数据的语句，记录了数据的更改，可用于数据恢复，默认已开启。

 vim /etc/my.cnf
 ​
 [mysqld]
 log-bin=mysql-bin      #也可以log_bin=mysql-bin
 #使用相对路径，则文件存储在默认目录/usr/local/mysql/data/中

慢查询日志

慢查询日志，用来记录所有执行时间超过long_query_time秒的语句，可以找到哪些查询语句执行时间长，以便于优化，默认是关闭的。

 vim /etc/my.cnf
 ​
 [mysqld]
 slow_query_log=ON
 slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log 
 long_query_time=5    #慢查询时间，设置超过5秒执行的语句被记录，缺省时为10秒

配置四种日志

一：修改配置文件/etc/my.cnf
 vim /etc/my.cnf
 #加入以下内容
 [mysqld]
 ##错误日志，用来记录当MySQL启动、停止或运行时发生的错误信息，默认已开启
 log-error=/usr/local/mysql/data/mysql_error.log
 ​
 ​
 ##通用查询日志，用来记录MySQL的所有连接和语句，默认是关闭的
 general_log=ON
 general_log_file=/usr/local/mysql/data/mysql_general.log
 ​
 ​
 ##二进制日志(binlog)，用来记录所有更新了数据或者已经潜在更新了数据的语句，记录了数据的更改，可用于数据恢复，默认已开启
 log-bin=mysql-bin      #也可以log_bin=mysql-bin
 #使用相对路径，则文件存储在默认目录/home/mysql/中
 ​
 ​
 #慢查询日志，用来记录所有执行时间超过long_query_time秒的语句，可以找到哪些查询语句执行时间长，以便于优化，默认是关闭的
 slow_query_log=ON
 slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log 
 long_query_time=5    #慢查询时间，设置超过5秒执行的语句被记录，缺省时为10秒

image.png

 二：重启服务
  systemctl restart mysqld

image.png

查询日志是否已开启

 #登入mysql
 mysql -u root -p[密码]
 
 #查看通用查询日志是否开启
 show variables like 'general%'; 
 
 #查看二进制日志是否开启
 show variables like 'log_bin%'; 
 
 #查看慢查询日功能是否开启
 show variables like '%slow%';   
 
 #查看慢查询时间设置
 show variables like 'long_query_time'; 
 
 #在数据库中设置关闭慢查询的方法，开启慢查询就是on，
 set global slow_query_log=off;

image.png

image.png

image.png

分割二进制日志

mysql-bin.index 文件会对二进制日志进行分割。

每次重启 mysql 或 在数据库中 "flush logs"刷新日志之后，会生成一个新的二进制日志。

image.png

image.png

MYSQL备份及恢复

数据备份的重要性

  • 备份的主要目的是灾难恢复

  • 在生产环境中，数据的安全性至关重要

  • 任何数据的丢失都可能产生严重的后果

  • 适成数据丢失的原因

    • 程序错误
    • 人为操作错误
    • 运算错误
    • 磁盘故障
    • 灾难（如火灾、地震）和盗窃

数据库备份的分类和备份策略

数据库备份的分类

从物理与逻辑的角度，备份可分为

  • 物理备份：对数据库操作系统的物理文件（如数据文件、日志文件等）的备份

    • 物理备份方法

      • 冷备份（脱机备份）：是在关闭数据库的时候进行的
      • 热备份（联机备份）：数据库处于运行状态，依赖于数据库的日志文件
      • 温备份：数据库锁定表格（不可写入但可读）的状态下进行备份操作

  • 逻辑备份：对数据库逻辑组件（如：表等数据库对象）的备份

从数据库的备份策略角度，备份可分为

  • 完全备份：每次对数据库进行完整的备份
  • 差异备份：备份自从上次完全备份之后被修改过的文件
  • 增量备份：只有在上次完全备份或者增量备份后被修改的文件才会被备份

完全备份

每次对数据进行完整备份，即对整个数据库、数据库结构和文件结构的备份，保存的是备份完成时刻的数据库，是差异备份与增量备份的基础完全备份的备份与恢复操作都非常简单方便，但是数据存在大量的重复并且会占用大量的磁盘空间，备份的时间也很长

每次都进行完全备份，会导致备份文件占用空间巨大，并且有大量的重复数据，恢复时，直接使用完全备份的文件即可

差异备份

备份那些自从上次完全备份之后被修改过的所有文件，备份的时间节点是从上次完整备份起，备份数据量会越来越大。恢复数据时只需要恢复上次的完全备份与最佳的一次差异备份

每次差异备份，都会备份上一次完全备份之后的数据，可能会出现重复数据。恢复时，先恢复完全备份的数据，再恢复差异备份的数据

增量备份

只有那些在上次完全备份或者增量备份后被修改的文件才会被备份以上次完整备份或上次增量备份的时间为时间点，仅备份期间内的数据变化，因而备份的数据量小，占用空间小，备份速度快。但恢复时，需要从上一次的完整备份开始到最后一次增量备份之间的所有增量依次恢复，如中间某次的备份数据损坏，将导致数据的丢失 每次增量备份都是在备份在上一次完成全备份

每次增量备份都是备份在上一次完全备份或者增量备份之后的数据，不会出现重复数据的情况，也不会占用额外的磁盘空间 恢复数据，需要按照次序恢复完全备份和增量备份的数据

备份方式比较

备份方式完全备份差异备份增量备份
完全备份时的状态表1、表2表1、表2表1、表2
第1次添加内容创建表3创建表3创建表3
备份内容表1、表2、表3表3表3
第2次添加内容创建表4创建表4创建表4
备份内容表1、表2、表3、表4表3、表4表4

常见的备份方法

物理冷备： （完全备份）

  • 备份时数据库处于关闭状态，直接打包数据库文件
  • 备份速度快，恢复时也是最简单的

专用备份工具mydump或mysqlhotcopy （完全备份，逻辑备份）

  • mysqldump常用的逻辑备份工具 （导出为sql脚本）
  • mysqlhotcopy仅拥有备份MyISAM和ARCHIVE表

启用二进制日志进行增量备份 （增量备份）

  • 进行增量备份，需要刷新二进制日志

第三方工具备份

  • 免费的MySQL热备份软件Percona XtraBackup

（阿里云的工具：dts，支持热迁移）

MySQL完全备份介绍

  • 是对整个数据库、数据库结构和文件结构的备份
  • 保存的是备份完成时刻的数据库
  • 是差异备份与增量备份的基础

完全备份的优缺点

优点

  • 备份与恢复操作简单方便

缺点

  • 数据存在大量的重复
  • 占用大量的备份空间
  • 备份与恢复时间长

完全备份的方法

物理冷备份与恢复

  • 关闭MySQL数据库
  • 使用tar命令直接打包数据库文件夹
  • 直接替换现有MySQL目录即可

mysqldump备份与恢复

  • MySQL自带的备份工具，可方便实现对MySQL的备份
  • 可以将指定的库、表导出为SQL脚本
  • 使用命令mysq|导入备份的数据

完全备份与恢复 操作演示

物理冷备份

完全备份

 mysql -u root -p123456    #登陆mysql
 create database lwx;      #创建lwx数据库
 use lwx;                  #使用lwx数据库
 create table t1 (id int(4) not null primary key,name varchar(10) not null,age varchar(4) not null);                 #创建t1表
 insert into t1 values(1,'aaa',22);     
 insert into t1 values(2,'bbb',23);
 insert into t1 values(3,'aaa',24);
 insert into t1 values(4,'bbb',25);
 insert into t1 values(5,'ccc',26);
 insert into t1 values(6,'zzz',27);
 #在表中添加数据
 select * from t1;        #查看表数据
 quit                     #退出
 
 mkdir /bakup               #创建备份目录
 systemctl stop mysqld      #关闭mysql
 rpm -q xz                  #检查是否安装xz没安装则yum安装
 yum -y install xz          #安装xz，我已经有xz这里就不安装了
 
 tar Jcf /bakup/mysql_all_$(date +%F).tar.xz /usr/local/mysql/data     #打包数据库并添加时间命名
 cd /bakup 
 tar tf mysql_all_2022-11-28.tar.xz #查看内容

image.png

image.png

image.png

image.png

完全恢复

将数据库迁移到另一台主机，测试完全恢复。

 scp mysql_all_2022-11-28.tar.xz 192.168.1.128:/opt    #主机A使用scp命令将tar包传给另一台主机B
 
 
 ##主机B的操作##
 systemctl stop mysqld                                #关闭mysql
 cd /opt
 mkdir /opt/bak/                                      #创建备份目录
 tar Jxf mysql_all_2022-11-28.tar.xz -C /opt/bak/     #解压到备份目录
 cd /opt/bak/                                         #切换到tar包的解压目录
 \cp -af usr/local/mysql/data/ /usr/local/mysql       #覆盖原有的文件
 systemctl start mysqld                               #重启服务
 mysql -u root -p                                     #登录数据库查看
 show databases;                                      #查看数据库
 use lwx;                                             #切换库
 show tables;                                         #查看表
 select * from t1;                                    #查看t1的表数据

image.png 切换到另一台主机B：

image.png

image.png

![image.png](p1-juejin.byteimg.com/tos-cn-i-k3… 8a7499025~tplv-k3u1fbpfcp-watermark.image?)

image.png

逻辑备份（使用mysqldump工具）

mysqldump是常用的逻辑备份工具。

mysqldump可以将指定的库、表导出为SQL脚本。

mysqldump完全备份

完全备份一个或多个完整的库（包括库中所有的表） 排名 mysqldump -u root -p[密码] --databases 库名1 [库名2].. >/备份路径/备份文件名.sql #导出的就是数据库脚本文件

 示例:
 mysqldump -u root -p --databases lwx > /opt/mysql_bak/lwx.sql    
 #完全备份一个库lwx
 mysqldump -u root -p --databases lwx ikun > /opt/mysql_bak/lwx-ikun.sql 
 #完全备份多个库，lwx库和ikun库

image.png

image.png 完全备份MySQL服务器中所有的库（包括库中所有的表）   mysqldump -u root -p[密码] --all-databases > / 备份路径/备份文件名.sql

 示例:
 mysqldump -u root -p --all-databases > /opt/mysql_bak/all.sql   #完全备份所有的库

image.png 完全备份指定库中的部分表

注意：只备份表，sql语句中只有对表的操作，没有对库的操作。恢复时需要人为确认库存在。

mysqldump -u root -p[密码] 库名 [表名1] [表名2] ... > /备份路径/备份文件名.sql 
#使用“-d”选项，说明只保存数据库的表结构 
#不使用“-d"选项，说明表数据也进行备份 
#作为一个表结构模板

示例: 
mysqldump -u root -p [-d]  lwx wyn > /opt/mysql_bak/lwx_wyn.sql 
#完全备份lwx库中的wyn库

image.png 查看备份文件

备份文件中保存的是sql语句。即以sql语句的形式，把库、表结构、表数据保存下来。  

 cd /opt/mysql_bak
 cat lwx-ikun.sql | grep -v "^--" |grep -v "^/" |grep -v "^$" 
 #grep -v "^--"表示显示不以--开头的行
 #grep -v "^/"表示显示不以/开头的行
 #grep -v "^$"表示显示非空行

mysqldump完全恢复

恢复数据库

 systemctl start mysqld
 #先启动mysql
 
 mysql -u root -p -e 'drop database lwx;' 
 ##删除数据库lwx 
 #"-e"选项，用于指定连接MySQL后执行的命令，命令执行完后自动退出  

 mysql -u root -p -e 'SHOW DATABASES;'         
 #查看当前有哪些数据库

 ##恢复数据库yuji##  
 mysql -u root -p < /opt/mysql_bak/lwx.sql     
 #重定向输入库文件  
 mysql -u root -p -e 'SHOW DATABASES;'       
 #查看当前有哪些数据库

image.png 恢复数据表

当备份文件中只包含表的备份，而不包含创建的库的语句时，执行导入操作时必须指定库名，且目标库必须存在。  

 mysql -u root -p -e 'drop table lwx.wyn;'
  ##删除lwx库中的wyn表
  
 mysql -u root -p -e 'show tables from lwx;'     
 #查看lwx库中的表，已无wyn表
 
 ##恢复lwx库中的wyn表##
 mysql -u root -p lwx < /opt/mysql_bak/lwx_wyn.sql   
 #重定向导入备份文件，必须指定库名，且目标库必须存在
 
 mysql -u root -p -e 'show tables from lwx;'
 #再次查看lwx库

image.png

MySQL增量备份与恢复

  • 1.一般恢复

将所有备份的二进制日志内容全部恢复

  • 2.基于位置恢复

数据库在某一时间点可能既有错误的操作也有正确的操作 可以基于精准的位置跳过错误的操作 发生错误节点之前的一个节点，上一次正确操作的位置点停止

  • 3.基于时间点恢复

跳过某个发生错误的时间点实现数据恢复 在错误时间点停止，在下一个正确时间点开始

增量备份与恢复 操作演示

增量备份

1.开启二进制日志功能

vim /etc/my.cnf  
[mysqld]  
log-bin=mysql-bin   
#开启二进制日志。如果使用相对路径，则保存在/usr/local/mysql/data/目录下  
binlog_format = MIXED     
#可选，指定二进制日志(binlog)的记录格式为MIXED  
server-id = 1
#可加可不加该命令

systemctl restart mysqld  
ls -l /usr/local/mysql/data/mysql-bin.*

-------------- 注释 -----------------  
#二进制日志(binlog)有3种不同的记录格式: 
STATEMENT (基于SQL语句)、ROW(基于行)、MIXED(混合模式)
默认格式是STATEMENT

STATEMENT (基于SQL语句)：记录修改的sql语句。高并发的情况下，记录操作的sql语句时可能顺序会有错误，导致恢复数据时，数据丢失或有误差。效率高，但数据可能有误差。
ROW(基于行)：记录每一行数据，准确，但恢复时效率低
MIXED(混合模式)：正常情况下使用STATEMENT，高并发的情况下会智能地切换到ROW。

image.png

image.png

2.可每周对数据库或表进行完全备份(增量备份时基于完全备份的，所以我们直接完全备份数据库) 
 mysqldump -u root -p lwx t1> /opt/lwx_t1_$(date +%F).sql
 mysqldump -u root -p --databases lwx > /opt/lwx_all_$(date +%F).sql

image.png

3.可每天进行增量备份操作，生成新的二进制日志文件
mysqladmin -u root -p flush-logs

image.png

4.插入新数据，以模拟数据的增加或变更 
PS:在第一次完全备份之后刷新二进制文件，在第二个二进制文件中记载着"增量备份的数据"
 

  insert into t1 values(7, 'ttt',20) ;   insert into t1 values(9, 'lll',28) ;

 5.再次生成新的二进制日志文件
 mysqladmin -u root -p flush-logs
 #之前的步骤4的数据库操作会保存到mysql-bin.000011文件中，之后数据库数据再发生变化则保存在mysql-bin.000012文件中

image.png

image.png

image.png

image.png

6、查看二进制日志文件的内容
 cp /usr/local/mysql/data/mysql-bin.000002 /opt/
 mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000002
 ​
 #--base64-output=decode-rows：使用64位编码机制去解码并按行读取
 #-v：显示详细内容
 #--no-defaults : 默认字符集（不加会报UTF-8的错误） 
 PS: 可以将解码后的文件导出为txt格式，方便查阅
 mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000002 > /opt/mysql-bin.000002.txt

image.png

增量恢复

  • 一般恢复
    • 将所有备份的二进制日志内容全部恢复
  • 基于位置恢复
    • 数据库在某一时间点可能既有错误的操作也有正确的操作
    • 可以基于精准的位置跳过错误的操作
  • 基于时间点恢复
    • 跳过某个发生错误的时间点实现数据恢复
一般恢复

1、模拟丢失更改的数据的恢复步骤（直接使用恢复即可）。

#备份lwx库中wyn表
mysqldump -uroot -p lwx wyn > /opt/lwx_wyn.sql
#删除lwx库中wyn表
mysql>drop table lwx.wyn;
#恢复wyn表
mysql -uroot -p lwx < /opt/lwx_wyn.sql

image.png

image.png 2、模拟丢失所有数据的恢复步骤

#模拟丢失所有数据
mysql>drop database lwx;   #删除库
#基于mysql-bin.000012恢复
mysqlbinlog --no-defaults /opt/mysql-bin.000010 | mysql -u root -p #恢复库

mysql -u root -p -e 'show database lwx;'   #查看表中数据

image.png

断点恢复
#备份
向ikun库的t2表中插入2条数据，之后刷新二进制日志，移动前一个日志：
mysql> use ikun;
mysql> insert into t2 values(4,'user4',22,'reading');
mysql> insert into t2 values(5,'user5',21,'dancing');

mysqladmin -u root -p flush-logs
#刷新日志，生成新的二进制日志

cp /usr/local/mysql/data/mysql-bin.000012 /opt/   
#将前一个日志复制到/bak/目录下

mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000012 > /opt/mysql-bin.000012.txt  
 #将二进制文件内容重定向到binlog.txt文件中

image.png

image.png

image.png

##基于位置的断点恢复

 mysqlbinlog --no-defaults --start-position='位置点' 文件名 | mysql -u root -p
 #从某一个位置点开始恢复，一直到日志结尾
 ​
 mysqlbinlog --no-defaults --stop-position='位置点' 文件名 | mysql -u root -p
 #从日志开头，一直恢复到某一个位置点前结束
 ​
 mysqlbinlog --no-defaults --start-position='位置点' --stop-position='位置点' 文件名 | mysql -u root -p
 #从某一个位置点开始恢复，一直到某一个位置点前结束

删除t2表的最后三行，然后只恢复id4那一行，需要先找到id4开始位置点和结束位置点，然后根据位置点恢复

delete from t2 where id between 3 and 5;
#删除id是3-5的数据，就是最后三行
cat /opt/mysql-bin.000012.txt
#查看二进制文件内容，找到位置点
mysqlbinlog --no-defaults --start-position='1437' --stop-position='1652' /opt/mysql-bin.000012 | mysql -u root -p
#恢复1437行到1652行的数据
mysql -uroot -p -e 'select *from ikun.t2;'
#查看表数据

image.png

image.png

image.png image.png

##基于时间点恢复
注意：日期必须是"yyyy-mm-dd"的格式。

 mysqlbinlog --no-defaults --start-datetime='时间点' 文件名 | mysql -u root -p
 #从某一个时间点开始恢复，一直到日志结尾
 ​
 mysqlbinlog --no-defaults --stop-datetime='时间点' 文件名 | mysql -u root -p
 #从日志开头，一直恢复到某一个时间点前结束
 ​
 mysqlbinlog --no-defaults --start-datetime='起始时间点' --stop-datetime'结束时间点' 文件名 | mysql -u root -p
 #从某一个时间点开始恢复，一直到某一个位置点前结束

重新删除id4，再根据id4的时间点恢复

delete from t2 where id=4;
 #删除id4
 cat /opt/mysql-bin.000012.txt
#查看二进制文件内容，找到id4的时间点
mysqlbinlog --no-defaults --start-datetime='2022-11-30 18:06:28' --stop-datetime='2022-11-30 18:07:00' /opt/mysql-bin.000012 | mysql -u root -p
mysql -uroot -p -e 'select *from ikun.t2;'
#查看表数据

image.png

image.png

avatar
文章
阅读
粉丝