rsync远程同步

374 阅读8分钟

QQ截图20221108155909.png

一. rsync介绍

1.1 什么是rsync

一款快速增量备份工具

  • Remote Sync,远程同步
  • 支持本地复制,或者与其他SSH、rsync主机同步
  • 官方网站:rsync

1.2 rsync简介

rsync(Remote sync,远程同步)是一个开源的快速备份工具,可以在不同主机之间镜像同步整个目录树,支持增量备份,并保持链接和权限,且采用优化的同步算法,传输前执行压缩,因此非常适用于异地备份、镜像服务器等应用。

在远程同步任务中,负责发起rsync同步操作的客户机称为发起端,而负责响应来自客户机的rsync同步操作的服务器称为同步源。在同步过程中,同步源负责提供文件的原始位置,发起端应对该位置具有读取权限。

例:A服务器同步B服务器的数据,B服务器就是备份源 反过来,B服务器同步A服务器的数据,那么A服务器就是备份源

QQ截图20221108155952.png

二. rsync同步源服务器

在远程同步任务中,负责发起 rsync 同步操作的客户机称为发起端,而负责响应来自客户机的 rsync 同步操作的服务器称为同步源。

  • 在下行同步(下载)中,同步源负责提供文档的原始位置,发起端应对该位置有读取权限。

  • 在上行同步(上传)中,同步源负责提供文档的目标位置,发起端应对该位置具有写入权限。

QQ截图20221108171227.png

三. 配置rsync下行同步(定时同步)

源服务器:192.168.85.50

客户机(发起端):192.168.85.60

3.1 配置源服务器

确保两台主机都已安装rsync,一般系统已默认安装rsync

QQ截图20221113194855.png

QQ截图20221113195125.png

QQ截图20221111114616.png

  • 如采用匿名的方式,只要将其中的"auth users"和"secrets file"配置项去掉即可。

为备份账户创建数据文件。在root目录下创建用户数据文件,并且修改该文件权限

QQ截图20221113195846.png 创建/var/www/html,并给该目录可读权限。保证所有用户对源目录/var/www/html 都有读取权限

QQ截图20221113200002.png 创建/var/www/html,并给该目录可读权限。保证所有用户对源目录/var/www/html 都有读取权限

QQ截图20221113201835.png

如果需要停止服务,kill掉pid即可

QQ截图20221113201937.png

QQ截图20221113202057.png

复制文件到/var/www/html目录下

QQ截图20221113202219.png

3.2 发起端配置

语言格式:

 rsync  [选项]  原始位置  目标位置

常用选项:

选项含义
-r递归模式,包含目录及子目录中的所有文件。
-l对于符号链接文件仍然复制为符号链接文件。
-v显示同步过程的详细(verbose)信息。
-z在传输文件时进行压缩(compress)。
-a归档模式,保留文件的权限、属性等信息,等同于组合选项“-rlptgop"。
-p保留文件的权限标记。
-t保留文件的时间标记。
-g保留文件的属组标记(仅超级用户使用)。
-o保留文件的属主标记(仅超级用户使用)。
-H保留硬连接文件。
-A保留ACL属性信息。
-D保留设备文件及其他特殊文件。
--delete删除目标位置有而原始位置没有的文件。
--checksum根据校验和(而不是文件大小、修改时间)来决定是否跳过文件。
3.3 操作过程

创建一个用于同步的空目录

QQ截图20221113202728.png 进行同步操作

方式一:用户名@主机地址::共享模块名

QQ截图20221113203032.png

QQ截图20221113203045.png

方式二:rsync:/用户名@主机地址/共享模块名

QQ截图20221113203713.png

QQ截图20221113203934.png

免交互同步

QQ截图20221113204035.png

QQ截图20221113204412.png

QQ截图20221113204712.png

可以做个计划性任务进行同步

#定时同步  
crontab -e  
30 22 * * * /usr/bin/rsync -az --delete --password-file=/etc/server.pass backuper@192.168.44.20::myhtml /opt/html/  
#为了在同步过程中不用输入密码,需要创建一个密码文件,保存backuper用户的密码,如/etc/server.pass。 在执行rsync 同步时使用选项"--password-file=/etc/server.pass"指定即可。

systemctl restart crond  
systemctl enable crond

3.4 结合ssh(直接指定目录做同步

由于rsync --daemon缺乏一定的灵活性,所以和配合ssh使用,使用ssh的22端口做同步,可以直接指定目录做同步。

3.5 操作过程

在同步源目录中添加新的文件用于试验

QQ截图20221113205129.png

进行同步操作-e 'ssh -p 端口号' 用户@主机地址:同步的目录 同步到的目录

QQ截图20221113205713.png

四. rsync实时同步(上行同步)

4.1 定期同步的不足

  • 执行备份的时间固定,延迟明显、实时性差
  • 当同步源长期不变化时,密集的定期任务是不必要的

4.2 实时同步的优点

  • 一旦同步源出现变化,立即启动备份
  • 只要同步源无变化,则不执行备份

4.3 Linux内核的inotify机制

  • 从版本2.6.13开始提供
  • 可以监控文件系统的变动情况,并做出通知响应
  • 辅助软件:inotify-tools

QQ截图20221113205855.png

4.4 发起端配置rsync+Inotify

  • 使用inotify通知接口,可以用来监控文件系统的各种变化情况,如文件存取、删除、移动、修改等。利用这一机制,可以非常方便地实现文件异动告警、增量备份,并针对目录或文件的变化及时作出响应。
  • 将inotify机制与rsync工具相结合,可以实现触发式备份(实时同步),即只要原始位置的文档发生变化,则立即启动增量备份操作;否则处于静默等待状态。
  • 因为 inotify 通知机制由 Linux 内核提供,因此主要做本机监控,在触发式备份中应用时更适合上行同步。

五. 配置rsync实时同步(上行同步)

发起端需要配置 rsync+Inotify。

  • rsync备份源:192.168.85.50
  • 发起端(客户机):192.168.85.60

5.1 操作过程

修改rsync源服务器配置文件/etc/rsyncd.conf

QQ截图20221113210246.png

之后重启

QQ截图20221113210533.png

QQ截图20221113210550.png

修改同步目录权限

QQ截图20221113210644.png

发起端(客户机),调整 inotify 内核参数

  • 在Linux内核中,默认的inotify机制提供了三个调控参数:

    • max_queue_events ( 监控事件队列,默认值为16384)、
    • max_user_instances (最多监控实例数,默认值为128)、
    • max_user_watches (每个实例最多监控文件数,默认值为8192)。
  • 当要监控的目录、文件数量较多或者变化较频繁时,建议加大这三个参数的值。

 cat /proc/sys/fs/inotify/max_queued_events
 cat /proc/sys/fs/inotify/max_user_instances
 cat /proc/sys/fs/inotify/max_user_watches
 ​
 vim /etc/sysctl.conf    #内核参数都在该文件中修改
 fs.inotify.max_queued_events = 16384
 fs.inotify.max_user_instances = 1024
 fs.inotify.max_user_watches = 1048576
 ​
 sysctl -p

QQ截图20221113211334.png

QQ截图20221113212100.png

发起端(客户机),安装 inotify-tools

  • 用inotify 机制还需要安装inotify-tools, 以便提供inotifywait、 inotifywatch 辅助工具程序,用来监控、汇总改动情况。

    • inotifywait:可监控modify (修改)、create (创建)、move (移动)、delete (删除)、attrib ( 属性更改)等各种事件,一有变动立即输出结果。

    • inotifywatch:可用来收集文件系统变动情况,并在运行结束后输出汇总的变化情况。

QQ截图20221113212542.png

QQ截图20221113212553.png

QQ截图20221113212849.png

QQ截图20221113213311.png

选项含义
-e用来指定要监控哪些事件
-m表示持续监控
-r表示递归整个目录
-q简化输出信息

QQ截图20221113213616.png

QQ截图20221113213706.png

在另外一个终端编写触发式同步脚本(注意,脚本名不可包含 rsync 字符串,否则脚本可能不生效)

QQ截图20221113214238.png

赋予执行权限,并执行脚本

QQ截图20221113214347.png

 vim /opt/inotify.sh 
 #!/bin/bash
 ​
 #定义inotifywait监控/data目录中文件事件的变量。attrib表示属性变化。
 INOTIFY_CMD="inotifywait -mrq -e modify,create,attrib,move,delete /data"
 ​
 #定义执行 rysnc 上行同步的变量。--delete保证两边目录内容一致,可以不加。
 RSYNC_CMD="rsynC -azH --delete --password-file=/etc/server .pass /data backuper@192.168.41.46::backupdir/"
 ​
 #使用while、read持续获取监控结果,根据结果可以作进一步判断是否读取到输出的监控记录
 $INOTIFY_CMD | while read DIRECTORY EVENT FILE 
 do
    #如果rsync未在执行,则立即启动
    if[ $(pgrep rsync | wc -l) -le 0 ];then
         $RSYNC_CMD
    fi
 done
 ​
 chmod +8 /opt/inotify.sh
 ​
 chmod +x /etc/rc.d/rc.local     #开机自启脚本文件
 echo '/opt/inotify.sh' >> /etc/rc.d/rc.local  #加入开机自动执行
 ​
 #之后运行脚本(后台运行)
 cd /opt/
 ./inotify.sh &
 ​
 #之后在发起端创建文件,查看源服务器中是否新增了

如果同步的文件比较大,同步时比较慢导致后面文件没来的及同步,则需要在脚本内添加消息队列或缓冲

 #!/bin/bash
 #定义inotifywait监控目录中文件事件的变量
 INOTIEY_CMD="inotifywait -mrq -e modify,create,attrib,move,delete /data/"
 #定义执行rsync上行同步的变量
 RSYNC_CMD="rsync -azH --delete --password-file=/etc/server.pass /data/ backuper@192.168.85.60::backupdir/"
 #使用while、read持续获取监控结果,根据结果可以进一步判断是否读取到输出的监控记录
 $INOTIEY_CMD | while read DIRECTORY EVENT FILE
 do    
       #小于等于0,则等待它执行完再去同步其他文件
       until [ $(pgrep rsync | wc -l) -le 0 ] 
      
       do
          sleep 1
       done
       $RSYNC_CMD
 done

验证同步效果

在/opt/html下新建文件

QQ截图20221113214557.png

查看脚本允许

QQ截图20221113215203.png 查看rsync备份源

QQ截图20221113215212.png

后台运行进程

普通后台运行的进程,当运行进程的终端关闭,那么所运行的进程也会消失。

在后台运行进程的命令前加上nohup,就算关闭运行进程的终端,运行的进程也不会消失。

QQ截图20221113215458.png

六. 使用rsync快速删除大量文件

假如要在linux下删除大量文件,比如100万、1000万,像/usr/local/nginx/proxy_temp的nginx缓存等,那么rm -rf * 可能就不好用了,因为要等待很长一段时间。

在这种情况下我们可以使用rsync来巧妙处理。

rsync实际用的是替换原理。

 #先建立一个空的文件夹:
 mkdir /root/null

 #用rsync删除目标目录:
 rsync --delete-before -a -H -v --progress --stats /root/null/ /usr/local/nginx/proxy_temp
 (只用-a和--delete也可完成)
 
 #这样目标目录很快就被清空了
选项含义
--delete-before接收者在传输进行删除操作
-a归档模式,表示以递归方式传输文件,并保持所有文件属性
-H保持硬连接的文件
-v详细输出模式
--progress在传输时显示传输过程
--stats给出某些文件的传输状态

总结:

rsync -avz 原始位置 目标位置
          用户名@IP::共享模块名称   rsync -avz backuper@192.168.80.14 : :myhtml /opt/ html/
          rsync://用户名@IP/共享模块名   rsync -avz rsync: // backuper@192.168.80.14/myhtml /opt/html/
          
          
rsync -avz -e 'ssh -p SSH端口号'原始位置目标位置
rsync -avz -e 'ssh -p 22' root@192.168.80.14∶/var/www /html/ lopt/html/


rsync 命令格式 rsync --daemon  , ssh
rsync + inotify 实时同步
rsync  --delete 快速删除大量文件