MysQL的日志管理及备份与恢复

173 阅读7分钟

MysQL的日志管理及备份与恢复

MysQL的日志默认保存位置为/usr/1ocal/mysql/data

 vim/etc/my.cnf  #可以查看日志保存位置

img

错误日志

  • 用来记录当MySQL启动、停止或运行时发生的错误信息,默认已开启
 vim /etc/my.cnf
 log-error=/usr/local/mysql/data/mysql_error.log 

通用查询日志

  • 用来记录MySQL的所有连接和语句,默认是关闭的
 vim /etc/my.cnf
 general_log=ON
 general_log_file=/usr/local/mysql/data/mysql_general.log

二进制日志

  • 用来记录所有更新了数据或者已经潜在更新了数据的语句,记录了数据的更改,可用于数据恢复,默认已开启
 vim /etc/my.cnf
 #也可以 log_bin=mysql-bin
 log-bin=mysql-bin   

慢查询日志

  • 用来记录所有执行时间超过long_query_time秒的语句,可以找到哪些查询语句执行时间长,以便于优化,默认是关闭的
 vim /etc/my.cnf
 slow_query_log=ON
 slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
 long_query_time=5   

配置日志

 #修改my.cnf配置文件
 ​
 #错误日志
 log-error=/usr/local/mysql/data/mysql_error.log 
 #通用查询日志
 general_log=ON
 general_log_file=/usr/local/mysql/data/mysql_general.log
 #二进制日志
 log-bin=mysql-bin   
 #慢查询日志
 slow_query_log=ON
 slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
 long_query_time=5
 ​
 #重新mysql服务
 systemctl restart mysqld.service

修改配置文件

img

img

日志的查询

 #登入mysql
 mysql -u root -p[密码]
 ​
 #查看通用查询日志是否开启
 show variables like 'general%'; 
 ​
 #查看二进制日志是否开启
 show variables like 'log_bin%';                                 
 #查看慢查询日功能是否开启
 show variables like '%slow%';                               
 #查看慢查询时间设置
 show variables like 'long_query_time';                      
 #在数据库中设置关闭慢查询的方法
 set global slow_query_log=off;  

img

img

img

MySQL备份与恢复

数据备份的重要性

  • 备份的主要目的是灾难恢复

  • 在生产环境中,数据的安全性至关重要

  • 任何数据的丢失都可能产生严重的后果

  • 适成数据丢失的原因

    • 程序错误
    • 人为操作错误
    • 运算错误
    • 磁盘故障
    • 灾难(如火灾、地震)和盗窃

数据库备份的分类

从物理与逻辑的角度,备份可分为

  • 物理备份:对数据库操作系统的物理文件(如数据文件、日志文件等)的备份

    • 物理备份方法

      • 冷备份(脱机备份):是在关闭数据库的时候进行的
      • 热备份(联机备份):数据库处于运行状态,依赖于数据库的日志文件
      • 温备份:数据库锁定表格(不可写入但可读)的状态下进行备份操作
  • 逻辑备份:对数据库逻辑组件(如:表等数据库对象)的备份

从数据库的备份策略角度,备份可分为

  • 完全备份:每次对数据库进行完整的备份
  • 差异备份:备份自从上次完全备份之后被修改过的文件
  • 增量备份:只有在上次完全备份或者增量备份后被修改的文件才会被备份

常见的备份方法

  • 物理冷备

    • 备份时数据库处于关闭状态,直接打包数据库文件
    • 备份速度快,恢复时也是最简单的
  • 专用备份工具mydump或mysqlhotcopy

    • mysqldump常用的逻辑备份工具
    • mysqlhotcopy仅拥有备份MyISAM和ARCHIVE
  • 表启用二进制日志进行增量备份

    • 进行增量备份,需要刷新二进制日志
  • 第三方工具备份

    • 免费的MySQL热备份软件Percona XtraBackup

MySQL完全备份

  • 是对整个数据库、数据库结构和文件结构的备份
  • 保存的是备份完成时刻的数据库
  • 是差异备份与增量备份的基础

优点

  • 备份与恢复操作简单方便

缺点

  • 数据存在大量的重复
  • 占用大量的备份空间
  • 备份与恢复时间长
数据库完全备份分类

物理冷备份与恢复

  • 关闭MySQL数据库
  • 使用tar命令直接打包数据库文件夹
  • 直接替换现有MySQL目录即可

mysqldump备份与恢复

  • MySQL自带的备份工具,可方便实现对MySQL的备份
  • 可以将指定的库、表导出为SQL脚本
  • 使用命令mysql导入备份的数据
MySQL物理冷备份及恢复
物理冷备份
 mysql -u root -p1999612
 create database kgc;
 use kgc;
 create table t1(id int primary key,name char(4),age int);
 insert into t1 values(1,'aaa',22);
 insert into t1 values(2,'bbb',23);
 insert into t1 values(3,'aaa',24);
 insert into t1 values(4,'bbb',25);
 insert into t1 values(5,'ccc',26);
 insert into t1 values(6,'zzz',27);
 select * from t1;
 quit
 ​
 mkdir /bakup               #创建备份目录
 systemctl stop mysqld      #关闭mysql
 rpm -q xz                  #检查是否安装xz没安装则yum安装
 yum -y install xz
 ​
 tar Jcf /bakup/mysql_all_$(date +%F).tar.xz /usr/local/mysql/data     #打包并添加时间命名
 cd /bakup 
 tar tf mysql_all_2022-05-27.tar.xz #查看内容

恢复数据库

 scp mysql_all_2022-05-27.tar.xz 192.168.239.50:/opt    #远程传输
 解压
 cd /opt
 tar Jxf mysql_all_2022-05-27.tar.xz  
 \cp -af /data/ /usr/local/mysql                        #覆盖原有的文件
 systemctl start mysqld                                 #重启服务
 myaql -u root -p                                       #登录数据库查看
 show databases;
 use kgc;
 show tables;
 select * from ky18;

img

img

img

img

img

切换到目的主机

img

img

img

img

专用备份工具mydump 和mysqlhotocopy

  • mysqldump常用的逻辑备份工具
  • mysqlhotcopy仅拥有备份MyISAM和ARCHIVE表
mysqldump逻辑备份与恢复

1.完全备份一个或多个完的库(包括其中所有的表)

 mysqldump -u root -p[密码]--databases 库名1 [库名2]....>/备份路径/备份文件名.sql
#导出的就是数据库脚本文件

img

2.完全备份MySQL,服务器中所有的库

mysqldump -u root-p[密码] --all-databases>/备份路径/备份文件名.sql

img

3.完全备份指定库中的部分表

mysqldump -u root -p[-d][密码] 库名 [表名1] [表名2]... > /备份路径/备份文件名.sql 
 #使用-d"选项,说明只保存数据库的表结构 #不使用"-d"选项,说明表数据也进行备份

img

4.查看备份文件

 cat /备份路径/备份文件名.sql |grep -v "^--" | grep -v "^/" |grep -v "^$"
 # -v取反

img

MySQL完全恢复

systemctl start mysqld #重启服务

1.恢复数据库

 mysql -u root -p -e 'drop database 库名;'     #删除已备份库
 #-e"选项,用于指定连接MySQL后执行的命令,命令执行完后自动退出
 mysql -u root -p -e 'SHOW DATABASES;'    #查看所有库
 mysql -u root -p < /备份路径/备份文件名.sql       #重定向输入
 mysql -u root -p -e 'SHOW DATABASES;' #查看系统所有库  
 mysql -u root -p -e 'select * from 库名.表名;'  #查看表记录

img

img

img

img

2.恢复数据表 当备份文件中只包含表的备份,而不包含创建的库的语句时,执行导入操作时必须指定库名,且目标库必须存在.

 mysqldump -u root -p kgc t1 > /opt/kgc_t1.sql #备份库中表
 mysql -u root -p -e 'drop table kgc.t1;'    #删除已备份的表
 mysql -u root -p -e 'show tables from kgc;'  #查看库中所有表 
 mysql -u root -p kgc < /opt/kgc_t1.sql     #恢复表重定向输入
 mysql -u root -p -e 'show tables from kgc;'    #查看所有表
  mysql -u root -p -e 'select * from kgc.t1;'   #查看表数据记录

img

img

MySQL增量备份

使用mysqldump进行完全备份存在的问题

  • 备份数据中有重复数据
  • 备份时间与恢复时间过长

是自上一次备份后增加/变化的文件或者内容

特点

  • 没有重复数据,备份量不大,时间短

  • 恢复需要上次完全备份及完全备份之后所有的增量备份才 能恢复,而且要对所有增量备份进行逐个反推恢复

  • MySQL没有提供直接的增量备份方法

  • 可通过MySQL提供的二进制日志间接实现增量备份

  • MySQL二进制日志对备份的意义

    • 二进制日志保存了所有更新或者可能更新数据库的操作
    • 二进制日志在启动MySQL服务器后开始记录,并在文件达到 max_binlog_size所设置的大小或者接收到flush logs命令后重新 创建新的日志文件
    • 只需定时执行flush logs方法重新创建新的日志,生成二进制文 件序列,并及时把这些日志保存到安全的地方就完成了一个时间 段的增量备份
MySQL数据库增量恢复
  • 一般恢复

    • 将所有备份的二进制日志内容全部恢复
  • 基于位置恢复

    • 数据库在某一时间点可能既有错误的操作也有正确的操作
    • 可以基于精准的位置跳过错误的操作
  • 基于时间点恢复

    • 跳过某个发生错误的时间点实现数据恢复

1.开启二进制日志功能

vim /etc/my.cnf
[mysqld] 
log-bin=mysql-bin
binlog_format=MIXED    #可选,指定二进制日志(binlog)的记录格式为MIXED
server-id =1

二进制日志(binlog)有3种不同的记录格式:

  • STATEMENT(基于sQL语句)
  • Row(基于行)
  • MIXED(混合模式),默认格式是STATEMENT
 systemctl start mysqld   #重启服务
 cd /usr/local/mysql/data/   #切换目录查看
 ls

img

img

2.可每周对数据库或表进行完全备份

mysqldump -u root -p[密码] kgc t1 > /opt/kgc_t1_$(date +%F).sql #备份kgc库里的t1表(不建议直接将密码暴露出来最好写个脚本进行备份)
mysqldump -u root -p[密码] kgc > /opt/kgc_$(date +%F).sql  #备份kgc库

img

img

img

3.可每天进行增量备份操作,生成新的二进制日志文件

mysqladmin-u root-p flush-logs

img

4.插入新数据,以模拟数据的增加或变更

use kgc;
insert into t1 values(8,'ggg',24);
insert into t1 values(9,'ppp',26);
一般恢复

img

5.再次生成新的二进制日志文件(例如mysql-bin.000005)

mysqladmin -u root -p flush-logs

img

注:则之前的步骤对数据库操作会保存到mysql-bin.000004文件中,之后数据库数据再发生变化则保存在mysql-bin.000005文件中 6.查看二进制日志文件的内容

 cp /usr/local/mysql/data/mysql-bin.000004 /opt
 mysqlbinlog --no-defaults--base64-output=decode-rows-v /opt/mysql-bin.000004
 #--base64-output=decode-rows:使用64位编码机制去解码并按行读取
 #-v:显示详细内容

img

img

将所有备份的二进制日志内容全部恢复

 use kgc;
 delete from t1 where id=8;
 delete from t1 where id=9;
 mysqlbinlog --no-defaults /usr/local/mysql/data/mysql-bin.000004 | mysql -u root -p

img

img

模拟丢失所有数据的恢复步骤

 mysqldump -u root -p kgc t1 > /opt/kgc_t1.sql
 mysql -u root -p1999612
 use kgc;
 insert into t1 values(4,'kkk',26);
 insert into t1 values(5,'lll',20);
 select * from t1;
 quit
 mysqladmin-u root-p flush-logs
 mysql -u root -p1999612
 use kgc;
 drop table t1;
 ​
 mysql -u root -p kgc < /opt/kgc_t1.sql
 mysqlbinlog --no-defaults /usr/local/mysql/data/mysql-bin.000005 | mysql -u root -p

img

img

img

img

img

img

计划增量备份任务
 vim /opt/binlog.sh
 #!/bin/bash
 #使用sed命令打印二进制日志文件最后一行内容作为filename变量的值
 filename=$(sed -n '$p' /usr/local/mysql/data/mysql-bin.index | awk -F '/' '{print $2}')
 #移动二进制日志文件,则会生成新的二进制日志文件
 mv /usr/local/mysql/data/$filename /opt/backup/binlog_$(date)
 生成新的二进制日志文件
 mysqladmin -uroot -pabc123 flush-logs
 #给脚本添加权限
 chmod 700 /opt/binlog.sh
 #添加计划性任务每天2点执行
 crontab -e
 00 2 * * * /opt /binlog.sh
基于位置点的断点恢复
 mysqlbinlog --no-defaults --start-position='位置点' 文件名 | mysql -u root -p
 #从某一个位置点开始恢复,一直到日志结尾
 mysqlbinlog --no-defaults --stop-position='位置点' 文件名 | mysql -u root -p
 #从日志开头,一直恢复到某一个位置点前结束
 mysqlbinlog --no-defaults --start-position='xxx'--stop-position='位置点' 文件名 | mysql -u root -p
 #从某一个位置点开始恢复,一直到某一个位置点前结束

从某一个位置点开始恢复,一直到日志结尾

img

img

img

img

从日志开头,一直恢复到某一个位置点前结束

img

img

从某一个位置点开始恢复,一直到某一个位置点前结束

img

img

基于时间点的断点恢复
 mysqlbinlog --no-defaults --start-datetime='时间点' 文件名 | mysql -u root -p
 #从某一个时间点开始恢复,一直到日志结尾
 mysqlbinlog --no-defaults --stop-datetime='时间点' 文件名 | mysql -u root -p
 #从日志开头,一直恢复到某一个时间点前结束
 mysqlbinlog --no-defaults --start-datetime='起始时间点' --stop-datetime'结束时间点' 文件名 | mysql -u root -p
 #从某一个时间点开始恢复,一直到某一个位置点前结束

从某一个时间点开始恢复,一直到日志结尾

img

img

从日志开头,一直恢复到某一个时间点前结束

img

img

从某一个时间点开始恢复,一直到某一个位置点前结束

img