rsync下行同步与inotify实时同步

一、rsync工具
二、定时同步与实时同步
三、配置rsync源
四、rsync命令
五、配置源的两种表示方法
六、inotify
七、配置rsync下行同步
八、rsync+inotify实时同步

一、rsync工具

rsync是一款快速增量备份工具。使用快速增量备份工具Remote Sync可以远程同步，支持本地复制，或者与其他SSH、rsync主机同步。

二、定时同步与实时同步

定时同步：执行备份的时间固定，延迟明显、实时性差，当同步原长期不变化时，密集的定期任务是不必要的
实时同步：一旦同步原出现变化，立即启动备份，只要同步原无变化，则不执行备份

三、配置rsync源

（一）、基本思路
建立rsync.conf 配置文件，独立的账号文件
启用rsync的 --daemon模式
（二）、应用示例
用户backuper，允许下行同步
操作的目录为/var/www/html
（三）、配置文件rsyncd.conf
需手动建立，语法类似于Samba配置
认证配置auth users、secrets file，不加则为匿名
（四）、rsync账号文件
采用“用户名:密码”的记录格式，每行一个用户记录
独立的账号数据，不依赖于账号系统
（五）、启用rsync服务
通过–daemon 独立提供服务，rsync --daemon
执行kill $(cat /var/run/rsyncd.pid)关闭服务

四、rsync命令

基本格式：

rsync [选项] 原始位置 目标位置

常用选项	功能
`-r`	递归模式，包含目录及子目录中的所有文件。
`-l`	对于符号链接文件仍然复制为符号链接文件。
`-v`	显示同步过程的详细（verbose）信息。
`-z`	在传输文件时进行压缩（compress）。
`-a`	归档模式，保留文件的权限、属性等信息，等同于组合选项`-rlptgoD`。
`-p`	保留文件的权限标记。
`-t`	保留文件的时间标记。
`-g`	保留文件的属组标记（仅超级用户使用）。
`-o`	保留文件的属主标记（仅超级用户使用）。
`-H`	保留硬连接文件。
`-A`	保留 ACL 属性信息。
`-D`	保留设备文件及其他特殊文件。
`--delete`	删除目标位置有而原始位置没有的文件。
`--checksum`	根据校验和（而不是文件大小、修改时间）来决定是否跳过文件。

五、配置源的两种表示方法

格式一：用户名@主机地址::共享模块名
格式二：rsync://用户名@主机地址/共享模块名

六、inotify

（一）、Linux内核的 inotify 机制
1、从版本2.6.13开始提供
2、可以监控文件系统的变动情况，并做出通知响应
3、辅助软件：inotify-tools
（二）、rsync + inotify 实时同步
1、安装inotify-tools辅助工具
notifywait：用于持续监控，实时输出结果
inotifywatch：用于短期监控，任务完成后再出结果

inotifywait -mrq -e modify,create,move,delete /var/www/html

选项	功能
-m	持续进行监控
-r	递归监控所有子对象
-q	简化输出信息
-e	指定要监控哪些事件类型

七、配置rsync下行同步

实验设备

主机	操作系统	IP地址	软件 / 安装包 / 工具
源端	CentOS7	192.168.229.10	rsync，httpd
发起端	CentOS7	192.168.229.20	rsync，inotify-tools-3.14.tar.gz

基础环境设置（所有设备）

#关闭防火墙
systemctl stop firewalld
setenforce 0

#检查rsync是否已经安装，若未安装则进行安装
rpm -q rsync
yum install -y rsync

配置rsync源服务器（192.168.229.10）

#建立/etc/rsyncd.conf 配置文件
vim /etc/rsyncd.conf    #添加以下配置项
uid = nobody         #也可以为root
gid = nobody         #也可以为root
use chroot = yes     #禁锢在源目录
address = 192.168.229.10   #监听地址，监听本机地址
port 873          #监听端口 tcp/udp 873，可通过cat /etc/services | grep rsync查看
log file = /var/log/rsyncd.log  #日志文件位置
pid file = /var/run/rsyncd.pid  #存放进程 ID 的文件位置
hosts allow = 192.168.229.0/24  #允许同步的客户机网段
[wwwroot]             #共享模块名称
path = /var/www/html    #源目录的实际路径（同步的目录）
comment = Document Root of www.wyw.com
read only = yes         #是否为只读
dont compress = *.gz *.bz2 *.tgz *.zip *.rar *.z  #同步时不再压缩的文件类型
auth users = backuper    #授权账户，多个账号以空格分隔
secrets file = /etc/rsyncd_users.db               #存放账户信息的数据文件
#如采用匿名的方式，只要将其中的“auth users”和“secrets file”配置项去掉即可。

在这里插入图片描述

#为备份账户创建数据文件
vim /etc/rsyncd_users.db
backuper:123456					#无须建立同名系统用户

chmod 600 /etc/rsyncd_users.db

在这里插入图片描述

#安装http服务
yum -y install httpd
systemctl start httpd
systemctl enable httpd
mkdir -p /var/www/html
echo “this is wyw” > /var/www/html/wyw.txt
chmod +r /var/www/html/
ls -ld /var/www/html/    #以长格式显示文件目录权限

在这里插入图片描述

#启动 rsync 服务程序
rsync --daemon					#启动 rsync 服务，以独立监听服务的方式（守护进程）运行 
netstat -anpt | grep rsync

在这里插入图片描述

#关闭 rsync 服务的方法（二选一）
kill $(cat /var/run/rsyncd.pid)
rm -rf /var/run/rsyncd.pid

配置发起端（192.168.229.20）

#将指定的资源下载到本地/opt 目录下进行备份。
格式一：
rsync -avz [email protected]::wwwroot /opt/		#密码123456
格式二：
rsync -avz rsync://[email protected]/wwwroot /opt/

在这里插入图片描述

#免交互格式配置：
echo "123456" > /etc/server.pass
chmod 600 /etc/server.pass
crontab -e
30 22 * * * /usr/bin/rsync -avz --delete --password-file=/etc/server.pass [email protected]::wwwroot /opt/

systemctl restart crond
systemctl enable crond

在这里插入图片描述

八、rsync+inotify实时同步

使用inotify通知接口，可以用来监控文件系统的各种变化情况，如文件存取、删除、移动、修改等。利用这一机制，可以非常方便地实现文件异动告警、增量备份，并针对目录或文件的变化及时作出响应。将 inotify 机制与 rsync 工具相结合，可以实现触发式备份（实时同步），即只要原始位置的文档发生变化，则立即启动增量备份操作；否则处于静默等待状态。
因为 inotify 通知机制由 Linux 内核提供，因此主要做本机监控，在触发式备份中应用时更适合上行同步。

1、修改rsync源服务器配置文件

vim /etc/rsyncd.conf
......
read only = no             #关闭只读，上行同步需要可以写

重启服务

在这里插入图片描述

2、调整 inotify 内核参数（在发起端配置：192.168.229.20）
在Linux内核中，默认的inotify机制提供了三个调控参数：max_queue_events（监控事件队列，默认值为16384）、max_user_instances（最多监控实例数，默认值为128）、max_user_watches（每个实例最多监控文件数，默认值为8192）。当要监控的目录、文件数量较多或者变化较频繁时，建议加大这三个参数的值。

cat /proc/sys/fs/inotify/max_queued_events      #监控事件队列
cat /proc/sys/fs/inotify/max_user_instances     #最多监控实例数
cat /proc/sys/fs/inotify/max_user_watches       #每个实例最多监控文件数

vim /etc/sysctl.conf         #加大每个参数
fs.inotify.max_queued_events = 16384
fs.inotify.max_user_instances = 1024
fs.inotify.max_user_watches = 1048576

sysctl -p

在这里插入图片描述

3、安装 inotify-tools（在发起端配置：192.168.229.20）
用 inotify 机制还需要安装 inotify-tools，以便提供 inotifywait、inotifywatch 辅助工具程序。
notifywait：可监控modify（修改）、create（创建）、move（移动）、delete（删除）、attrib（属性更改）等各种事件，一有变动立即输出结果。
inotifywatch：可用来收集文件系统变动情况，并在运行结束后输出汇总的变化情况。

#依赖环境
mount /dev/cdrom /mnt     #挂载磁盘
yum install gcc gcc-c++ make -y
#将压缩包inotify-tools-3.14.tar.gz上传至/opt目录下，然后进行解压
tar zxvf inotify-tools-3.14.tar.gz -C /opt/

cd /opt/inotify-tools-3.14
./configure
make && make install

#执行“inotifywait”命令，然后在另一个终端向/var/www/html 目录下添加文件、移动文件，跟踪屏幕输出结果。
#执行下面命令后会进入监听模式，无法操作，所以需要另开一个终端页面进行作
inotifywait -mrq -e modify,create,move,delete /opt

#选项“-e”：用来指定要监控哪些事件
#选项“-m”：表示持续监控
#选项“-r”：表示递归整个目录
#选项“-q”：简化输出信息

在这里插入图片描述
4、在客户端（192.168.229.20）编写触发式同步脚本

vim /opt/inotify.sh

#!/bin/bash
INOTIFY_CMD="inotifywait -mrq -e modify,create,attrib,move,delete /var/www/html/"     #持续监控
RSYNC_CMD="rsync -apzH --delete --password-file=/etc/server.pass /var/www/html/ [email protected]::wwwroot/"     #进行同步
$INOTIFY_CMD | while read DIRECTORY EVENT FILE     #遍历
##while判断是否接收到监控记录
do
    if [ $(pgrep rsync | wc -l) -le 0 ] ; then    #判断是否正在执行同步
        $RSYNC_CMD
    fi
done

在这里插入图片描述

chmod +x /opt/inotify.sh
chmod +x /etc/rc.d/rc.local
echo '/opt/inotify.sh' >> /etc/rc.d/rc.local		#加入开机自动执行
mkdir -p /var/www/html/                                 #创建脚本中进行同步的目录

在这里插入图片描述
5、源端配置（192.168.229.10）

chmod 777 /var/www/html/         #将源端/var/www/html/目录设置权限为777，否则远程同步无法写入
vim /etc/rsyncd.conf     
uid = root           #更改为root，否则执行脚本会报错                         
gid = root           #更改为root

在这里插入图片描述
重启服务
6、验证实验
客户端开启监控