rsync 远程同步

标签：opt rsync 同步 repos repo html yum root 远程

1、rsync（远程同步）

rsync（Remote Sync，远程同步）是一个开源的快速备份工具，可以在不同主机之间镜像同步整个目录树，支持增量备份，并保持链接和权限，且采用优化的同步算法，传输前执行压缩，因此非常适用于异地备份、镜像服务器等应用。
第一次同步时 rsync 会复制全部内容，但在下一次只传输修改过的文件。rsync 在传输数据的过程中可以实行压缩及解压缩操作，因此可以使用更少的带宽。

在远程同步任务中，负责发起rsync同步操作的客户机称为发起端，而负责响应来自客户机的rsync同步操作的服务器称为同步源。在同步过程中，同步源负责提供文件的原始位置，发起端应对该位置具有读取权限。

2、实操rsync远程文件同步

服务端：20.0.0.30 客户端：20.0.0.40

（1）配置rsync服务端

20.0.0.30

[root@zx3 ~]# systemctl stop firewalld
[root@zx3 ~]# setenforce 0
[root@zx3 ~]# rpm -q rsync
rsync-3.1.2-10.el7.x86_64
[root@zx3 ~]# vim /etc/rsyncd.conf
uid = root
gid = root
use chroot = yes							    #禁锢在源目录
address = 20.0.0.30					            #监听地址
port = 873										#监听端口 tcp/udp 873，可通过cat 
                                                /etc/services | grep rsync查看
log file = /var/log/rsyncd.log							#日志文件位置
pid file = /var/run/rsyncd.pid							#存放进程 ID 的文件位置
hosts allow = 20.0.0.0/24							#允许访问的客户机地址
timeout = 60
dont compress = *.gz *.bz2 *.tgz *.zip *.rar *.z				#同步时不再压缩的文件类型
 
[zx101web]											#共享模块名称
path = /var/www/html								#源目录的实际路径
comment = zx101 test rsync                          #备注
read only = yes										#是否为只读
auth users = zx								        #授权账户，多个账号以空格分隔
secrets file = /opt/rsync_userlist				    #存放账户信息的数据文件

[root@zx3 ~]# cd /opt/
[root@zx3 opt]# touch /opt/rsync_userlist
[root@zx3 opt]# vim rsync_userlist
zx:123456

[root@zx3 opt]# chmod 600 rsync_userlist
[root@zx3 opt]# mkdir -pv /var/www/html
mkdir: 已创建目录 "/var/www"
mkdir: 已创建目录 "/var/www/html"
[root@zx3 opt]# ll -d /var/www/html/
drwxr-xr-x. 2 root root 6 7月   3 11:39 /var/www/html/
[root@zx3 opt]#

准备测试内容

[root@zx3 opt]# cp -r /etc/hosts /etc/passwd /etc/yum.repos.d /var/www/html/
[root@zx3 opt]# ll -R /var/www/html/
/var/www/html/:
总用量 8
-rw-r--r--. 1 root root  158 7月   3 11:41 hosts
-rw-r--r--. 1 root root 2301 7月   3 11:41 passwd
drwxr-xr-x. 3 root root   41 7月   3 11:41 yum.repos.d

/var/www/html/yum.repos.d:
总用量 4
-rw-r--r--. 1 root root  60 7月   3 11:41 local.repo
drwxr-xr-x. 2 root root 220 7月   3 11:41 repos.bak

/var/www/html/yum.repos.d/repos.bak:
总用量 40
-rw-r--r--. 1 root root 1664 7月   3 11:41 CentOS-Base.repo
-rw-r--r--. 1 root root 1309 7月   3 11:41 CentOS-CR.repo
-rw-r--r--. 1 root root  649 7月   3 11:41 CentOS-Debuginfo.repo
-rw-r--r--. 1 root root  314 7月   3 11:41 CentOS-fasttrack.repo
-rw-r--r--. 1 root root  630 7月   3 11:41 CentOS-Media.repo
-rw-r--r--. 1 root root 1331 7月   3 11:41 CentOS-Sources.repo
-rw-r--r--. 1 root root 8515 7月   3 11:41 CentOS-Vault.repo
-rw-r--r--. 1 root root  616 7月   3 11:41 CentOS-x86_64-kernel.repo
[root@zx3 opt]#

启动 rsync 服务程序

[root@zx3 opt]# rsync --daemon  #启动 rsync 服务，以独立监听服务的方式（守护进程）运行
[root@zx3 opt]# netstat -anpt | grep rsync
tcp        0      0 20.0.0.30:873           0.0.0.0:*               LISTEN      8158/rsync
[root@zx3 opt]#

补充：

#关闭 rsync 服务
kill $(cat /var/run/rsyncd.pid)
rm -rf /var/run/rsyncd.pid

（2）客户端测试

20.0.0.40

基本格式：rsync [选项] 原始位置目标位置

常用选项：

创建一个目录保存同步后的文件

[root@zx4 ~]# mkdir /opt/data
[root@zx4 ~]# cd /opt/
[root@zx4 opt]# ls
data  rh
[root@zx4 opt]#

格式一：
rsync -avz [email protected]::zx101web /opt/data #密码123456

[root@zx4 opt]# rsync -avz [email protected]::zx101web /opt/data/  	
Password:
receiving incremental file list
./
hosts
passwd
yum.repos.d/
yum.repos.d/local.repo
yum.repos.d/repos.bak/
yum.repos.d/repos.bak/CentOS-Base.repo
yum.repos.d/repos.bak/CentOS-CR.repo
yum.repos.d/repos.bak/CentOS-Debuginfo.repo
yum.repos.d/repos.bak/CentOS-Media.repo
yum.repos.d/repos.bak/CentOS-Sources.repo
yum.repos.d/repos.bak/CentOS-Vault.repo
yum.repos.d/repos.bak/CentOS-fasttrack.repo
yum.repos.d/repos.bak/CentOS-x86_64-kernel.repo

sent 256 bytes  received 5,457 bytes  672.12 bytes/sec
total size is 17,547  speedup is 3.07
[root@zx4 opt]#
[root@zx4 opt]# ls data/
hosts  passwd  yum.repos.d
[root@zx4 opt]#

增量备份测试：

服务端添加文件

20.0.0.30

[root@zx3 opt]# cd /var/www/html/
[root@zx3 html]# ls
hosts  passwd  yum.repos.d
[root@zx3 html]# echo a > a
[root@zx3 html]# echo b > b
[root@zx3 html]# ls
a  b  hosts  passwd  yum.repos.d
[root@zx3 html]#

客户端测试

20.0.0.40

[root@zx4 opt]# rsync -avz [email protected]::zx101web /opt/data/
Password:
receiving incremental file list
./
a
b

sent 71 bytes  received 531 bytes  92.62 bytes/sec
total size is 17,551  speedup is 29.15
[root@zx4 opt]# ls data/
a  b  hosts  passwd  yum.repos.d
[root@zx4 opt]#

格式二：
rsync -avz rsync://[email protected]/zx101web /opt/data/

服务端添加文件

20.0.0.30

[root@zx3 html]# echo c > c
[root@zx3 html]# echo d > d
[root@zx3 html]# echo e > e
[root@zx3 html]# ls
a  b  c  d  e  hosts  passwd  yum.repos.d
[root@zx3 html]#

客户端测试

20.0.0.40

[root@zx4 opt]# rsync -avz rsync://[email protected]/zx101web /opt/data/
Password:
receiving incremental file list
./
c
d
e

sent 90 bytes  received 619 bytes  157.56 bytes/sec
total size is 17,557  speedup is 24.76
[root@zx4 opt]# ls data/
a  b  c  d  e  hosts  passwd  yum.repos.d
[root@zx4 opt]#

（3）删除文件

如何删除源始文件中没有，目标文件中存在的文件？

服务端模拟删除部分文件：

20.0.0.30

[root@zx3 html]# ls
a  b  c  d  e  hosts  passwd  yum.repos.d
[root@zx3 html]# rm -rf a
[root@zx3 html]# rm -rf b
[root@zx3 html]# ls
c  d  e  hosts  passwd  yum.repos.d
[root@zx3 html]#

客户端删除：

20.0.0.40

[root@zx4 opt]# rsync -avz --delete rsync://[email protected]/zx101web /opt/data/
Password:
receiving incremental file list
deleting b
deleting a
./

sent 29 bytes  received 457 bytes  88.36 bytes/sec
total size is 17,553  speedup is 36.12
[root@zx4 opt]# ls data/
c  d  e  hosts  passwd  yum.repos.d
[root@zx4 opt]#

（4）如何实现免交互登录

客户端准备密码文件：

20.0.0.40

[root@zx4 opt]# cd ~
[root@zx4 ~]# vim rsync_passwd
[root@zx4 ~]# chmod 600 rsync_passwd
[root@zx4 ~]#

服务端模拟删除部分文件：

20.0.0.30

[root@zx3 html]# ls
c  d  e  hosts  passwd  yum.repos.d
[root@zx3 html]# rm -rf c
[root@zx3 html]# rm -rf d
[root@zx3 html]# rm -rf e
[root@zx3 html]# ls
hosts  passwd  yum.repos.d
[root@zx3 html]#

客户端删除：

20.0.0.40

[root@zx4 ~]# rsync -avz --delete --password-file=/root/rsync_passwd rsync://[email protected]/zx101web /opt/data
receiving incremental file list
deleting e
deleting d
deleting c
./

sent 29 bytes  received 389 bytes  278.67 bytes/sec
total size is 17,547  speedup is 41.98
[root@zx4 ~]#

3、定时同步crontab + rsync

crontab -e
*/30 * * * * rsync -azh --delete --password-file=/root/pass rsync://[email protected]/zx101web /opt/data/
#为了在同步过程中不用输入密码，需要创建一个密码文件，保存 zx 用户的密码，在执行 rsync 同步时使用选项 “--password-file=/root/pass” 指定即可。
 
systemctl restart crond
systemctl enable crond

4、通过ssh和rsync结合的方式实现数据同步

不需要开启服务端rsync进程即可进行同步操作

客户端：

20.0.0.40

rsync -avz -e 'ssh -p 22' [email protected]:/var/www/html /opt/data2 #连带html目录
rsync -avz -e 'ssh -p 22' [email protected]:/var/www/html/ /opt/data2 #不连带html目录

[root@zx4 ~]# cd /opt/
[root@zx4 opt]# mkdir data2
[root@zx4 opt]# ls
data  data2  rh
[root@zx4 opt]# rsync -avz -e 'ssh -p 22' [email protected]:/var/www/html /opt/data2
The authenticity of host '20.0.0.30 (20.0.0.30)' can't be established.
ECDSA key fingerprint is SHA256:0QRUUrM5MF8d5fthpFakU1hSKXZIcXOpJy7zlGjPaB0.
ECDSA key fingerprint is MD5:f6:a3:39:09:30:11:1c:c6:dd:72:0f:b7:7c:a7:52:63.
Are you sure you want to continue connecting (yes/no)? yes
Warning: Permanently added '20.0.0.30' (ECDSA) to the list of known hosts.
[email protected]'s password:
receiving incremental file list
html/
html/hosts
html/passwd
html/yum.repos.d/
html/yum.repos.d/local.repo
html/yum.repos.d/repos.bak/
html/yum.repos.d/repos.bak/CentOS-Base.repo
html/yum.repos.d/repos.bak/CentOS-CR.repo
html/yum.repos.d/repos.bak/CentOS-Debuginfo.repo
html/yum.repos.d/repos.bak/CentOS-Media.repo
html/yum.repos.d/repos.bak/CentOS-Sources.repo
html/yum.repos.d/repos.bak/CentOS-Vault.repo
html/yum.repos.d/repos.bak/CentOS-fasttrack.repo
html/yum.repos.d/repos.bak/CentOS-x86_64-kernel.repo

sent 253 bytes  received 5,460 bytes  761.73 bytes/sec
total size is 17,547  speedup is 3.07
[root@zx4 opt]# ls data2/
html
[root@zx4 opt]# ls data2/html/
hosts  passwd  yum.repos.d
[root@zx4 opt]# rsync -avz -e 'ssh -p 22' [email protected]:/var/www/html/ /opt/data2
[email protected]'s password:
receiving incremental file list
./
hosts
passwd
yum.repos.d/
yum.repos.d/local.repo
yum.repos.d/repos.bak/
yum.repos.d/repos.bak/CentOS-Base.repo
yum.repos.d/repos.bak/CentOS-CR.repo
yum.repos.d/repos.bak/CentOS-Debuginfo.repo
yum.repos.d/repos.bak/CentOS-Media.repo
yum.repos.d/repos.bak/CentOS-Sources.repo
yum.repos.d/repos.bak/CentOS-Vault.repo
yum.repos.d/repos.bak/CentOS-fasttrack.repo
yum.repos.d/repos.bak/CentOS-x86_64-kernel.repo

sent 252 bytes  received 5,449 bytes  1,266.89 bytes/sec
total size is 17,547  speedup is 3.08
[root@zx4 opt]# ls data2/
hosts  html  passwd  yum.repos.d
[root@zx4 opt]#

（1）如何使用ssh实现免交互登录

客户端：

20.0.0.40

[root@zx4 opt]# cd /etc/yum.repos.d/
[root@zx4 yum.repos.d]# mv repo.bak/* ./
[root@zx4 yum.repos.d]# mv local.repo repo.bak
[root@zx4 yum.repos.d]# ls
CentOS-Base.repo  CentOS-Debuginfo.repo  CentOS-Media.repo    CentOS-Vault.repo          repo.bak
CentOS-CR.repo    CentOS-fasttrack.repo  CentOS-Sources.repo  CentOS-x86_64-kernel.repo
[root@zx4 yum.repos.d]# wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo
[root@zx4 yum.repos.d]# yum clean all && yum makecache
[root@zx4 yum.repos.d]# yum install -y sshpass
[root@zx4 opt]# rsync -avz -e 'sshpass -p abc123 ssh -p 22' [email protected]:/var/www/html /opt/data3
receiving incremental file list
html/
html/hosts
html/passwd
html/yum.repos.d/
html/yum.repos.d/local.repo
html/yum.repos.d/repo.bak/
html/yum.repos.d/repo.bak/CentOS-Base.repo
html/yum.repos.d/repo.bak/CentOS-CR.repo
html/yum.repos.d/repo.bak/CentOS-Debuginfo.repo
html/yum.repos.d/repo.bak/CentOS-Media.repo
html/yum.repos.d/repo.bak/CentOS-Sources.repo
html/yum.repos.d/repo.bak/CentOS-Vault.repo
html/yum.repos.d/repo.bak/CentOS-fasttrack.repo
html/yum.repos.d/repo.bak/CentOS-x86_64-kernel.repo

sent 253 bytes  received 5,437 bytes  11,380.00 bytes/sec
total size is 17,507  speedup is 3.08
[root@zx4 opt]#

该方法只适用于非第一次使用ssh命令，否则会报错；只使用连接非新主机，无法避免第一次连接新主机时的密钥对验证问题

vim /etc/ssh/ssh_config
修改35行，打开注释；修改为StrictHostKeyChecking no即可
或
rsync -avz -e 'sshpass -p tanchen ssh -p 22 -o StrictHostKeyChecking=no' [email protected]:/var/www/html /opt/data3

（2）上行操作

20.0.0.40

[root@zx4 opt]# rsync -avz -e 'sshpass -p abc123 ssh -p 22 -o StrictHostKeyChecking=no' /etc/fstab [email protected]:/var/www/html
sending incremental file list
fstab

sent 376 bytes  received 35 bytes  274.00 bytes/sec
total size is 501  speedup is 1.22
[root@zx4 opt]#

20.0.0.30

[root@zx3 html]# ls
fstab  hosts  passwd  yum.repos.d
[root@zx3 html]#

5、实时同步inotifywait + rsync

使用inotify通知接口，可以用来监控文件系统的各种变化情况，如文件存取、删除、移动、修改等。利用这一机制，可以非常方便地实现文件异动告警、增量备份，并针对目录或文件的变化及时作出响应。
将inotify机制与rsync工具相结合，可以实现触发式备份（实时同步），即只要原始位置的文档发生变化，则立即启动增量备份操作；否则处于静默等待状态。这样，就避免了按固定周期备份时存在的延迟性、周期过密等问题。(有了触发机制，更加灵活)
因为 inotify 通知机制由 Linux 内核提供，因此主要做本机监控，在触发式备份中应用时更适合上行同步。

（1）修改rsync源服务器配置文件

20.0.0.30

[root@zx3 html]# vim /etc/rsyncd.conf
read only = no											#关闭只读，上行同步需要可以写

[root@zx3 html]# kill $(cat /var/run/rsyncd.pid)
[root@zx3 html]# rsync --daemon
[root@zx3 html]# netstat -anpt | grep rsync
tcp        0      0 20.0.0.30:873           0.0.0.0:*               LISTEN      12227/rsync
[root@zx3 html]#

（2）调整 inotify 内核参数

在Linux内核中，默认的inotify机制提供了三个调控参数：max_queue_events（监控事件队列，默认值为16384）、max_user_instances（最多监控实例数，默认值为128）、max_user_watches（每个实例最多监控文件数，默认值为8192）。当要监控的目录、文件数量较多或者变化较频繁时，建议加大这三个参数的值。

cat /proc/sys/fs/inotify/max_queued_events
cat /proc/sys/fs/inotify/max_user_instances
cat /proc/sys/fs/inotify/max_user_watches

[root@zx4 html]# vim /etc/sysctl.conf
fs.inotify.max_queued_events = 16384
fs.inotify.max_user_instances = 1024
fs.inotify.max_user_watches = 1048576

[root@zx4 html]# sysctl -p
fs.inotify.max_queued_events = 16384
fs.inotify.max_user_instances = 1024
fs.inotify.max_user_watches = 1048576
[root@zx4 html]#

（3）安装 inotify-tools

用 inotify 机制还需要安装 inotify-tools，以便提供 inotifywait、inotifywatch 辅助工具程序，用来监控、汇总改动情况。
inotifywait：可监控modify（修改）、create（创建）、move（移动）、delete（删除）、attrib（属性更改）等各种事件，一有变动立即输出结果。
inotifywatch：可用来收集文件系统变动情况，并在运行结束后输出汇总的变化情况。

cd /opt
tar xf inotify-tools-3.14.tar.gz
cd inotify-tools-3.14/
./configure
make && make install

命令格式：

inotifywait -mrq -e modify,create,move,delete /data

#选项“-e”：用来指定要监控哪些事件
#选项“-m”：表示持续监控
#选项“-r”：表示递归整个目录
#选项“-q”：简化输出信息

测试inotifywait 监控

（4）客户端编写触发式同步脚本（注意，脚本名不可包含 rsync 字符串，否则脚本可能不生效）

mkdir /root/data  #准备测试文件
vim inotify.sh
#!/bin/bash
LOCAL_DIR=/root/data/
INOTIFY_CMD="inotifywait -mrq -e modify,create,delete,move $LOCAL_DIR"
REMOTE_USER=root
REMOTE_PASSWORD=tanchen
REMOTE_PORT=22
REMOTE_IP=192.168.9.116
REMOTE_DIR=/var/www/html
 
$INOTIFY_CMD | while read DIRECTORY FILE EVENT
do
    if [ $(pgrep rsync | wc -l) -eq 0 ];then
        rsync -az --delete -e "sshpass -p $REMOTE_PASSWORD ssh -p $REMOTE_PORT"   $LOCAL_DIR  root@$REMOTE_IP:$REMOTE_DIR
    fi
done
#######
chmod +x /root/inotify.sh
./inotify.sh  #执行脚本