lsyncd + rsync实现文件实时同步

一：方案介绍

rsync+lsyncd 的解决方案，rsync实现同步，lsyncd 监听文件变化，去触发rsync进行同步

二：方案实现

1：新服务器（接收备份文件的服务器） 

(1)：安装rsync

yum install -y rsync

(2)：rsync配置账号密码

echo '[user]:[password]' >> /etc/rsync.password
chmod 600 /etc/rsync.password

(3)：rsyncd备份配置

uid = root
gid = root
use chroot = no
# max connections = 100
timeout = 600
pid file =/var/run/rsyncd.pid
lock file =/var/run/rsync.lock
log file = /var/log/rsyncd.log
ignore errors = no
read only = no
list = no
hosts allow = 192.168.6.14
hosts deny = *
auth users = rsync
secrets file =/etc/rsync.password
[backup_1] #同步的模块名1
path = /data/backup1/ #同步的路径1
[backup_2] #同步的模块名2
path = /data/backup2/ #同步的路径2

(4)：开放873端口

iptables -A INPUT -p tcp --dport 873 -j ACCEPT

(5)：启动rsync

systemctl start rsync

2：旧服务器（文件需要被备份的服务器）

(1)：安装lsyncd

yum install -y lsyncd

(2)：创建同步使用的密码存储文件

echo '[password]' >> /etc/rsync.password
chmod 600 /etc/rsync.password

(3)：lsyncd同步配置

settings {
  logfile = "/var/log/lsyncd/lsyncd.log",
  statusFile = "/var/log/lsyncd/lsyncd.status",
  inotifyMode = "CloseWrite",
  maxProcesses = 8,
}
sync {
  default.rsync,
  source = "/data/test1/", #需要同步的目录1
  target = "rsync@192.168.1.1::backup_1", #同步的目的地址配置 rsync：目的地址rsync账号名 192.168.1.1：目的地址IP backup_1：同步的目的地址模块名
  delete = true,
  exclude = { ".*" },
  delay = 5,
  rsync = {
    binary = "/usr/bin/rsync",
    archive = true,
    compress = true,
    verbose = true,
    password_file = "/etc/rsync.password",
    _extra = {"--bwlimit=200"}
  }
}
sync {
  default.rsync,
  source = "/data/test2/", #需要同步的目录1
  target = "rsync@192.168.1.1::backup_2", #同步的目的地址配置 rsync：目的地址rsync账号名 192.168.1.1：目的地址IP backup_1：同步的目的地址模块名
  delete = true,
  exclude = { ".*" },
  delay = 5,
  rsync = {
    binary = "/usr/bin/rsync",
    archive = true,
    compress = true,
    verbose = true,
    password_file = "/etc/rsync.password",
    _extra = {"--bwlimit=200"}
  }
}

配置说明

settings                # 全局设置
{
    logfile                 # 定义日志文件
    stausFile               # 定义状态文件
    nodaemon=true           # 默认不启用守护模式
    statusInterval          # 将lsyncd的状态写入上面的statusFile的间隔，默认10秒
    inotifyMode             # 指定inotify监控的事件，默认是CloseWrite，还可以是Modify或CloseWrite or Modify
    maxProcesses            # 同步进程的最大个数Ls。假如同时有20个文件需要同步，而maxProcesses = 8，则最大能看到有8个rysnc进程
    maxDelays               # 累计到多少所监控的事件激活一次同步，即使后面的delay延迟时间还未到
}

# -------------------  可以有多个sync，各自的source，各自的target，各自的模式，互不影响。
sync                                # 里面是定义同步参数，可以继续使用maxDelays来重写settings的全局变量。一般第一个参数指定lsyncd以什么模式运行：rsync rsyncssh direct三种模式
{
    default.rsync                       # 本地目录间同步，使用rsync，也可以达到使用ssh形式的远程rsync效果，或daemon方式连接远程rsyncd进程；
    default.direct                      # 本地目录间同步，使用cp rm等命令完成差异文件备份；
    default.rsyncssh                    # 同步到远程主机目录，rsync的ssh模式，需要使用key来认证

    source                              # 同步的源目录，使用绝对路径。

    target                              # 定义目的地址.对应不同的模式有几种写法：
    *（1） /tmp/dest                     # 本地目录同步，可用于direct和rsync模式
    *（2） 172.29.88.223:/tmp/dest       # 同步到远程服务器目录，可用于rsync和rsyncssh模式，拼接的命令类似于/usr/bin/rsync -ltsd --delete --include-from=- --exclude=* SOURCE TARGET，剩下的就是rsync的内容了，比如指定username，免密码同步
    *（3） 172.29.88.223::module         # 同步到远程服务器目录，用于rsync模式

    # -----------------
    delete    =    true       # 在目标上删除源中没有的内容。在启动时以及在正常操作期间删除的内容
    delete    =    false      # 不会删除目标上的任何文件。不在启动时也不在正常操作上
    delete    =    'startup'  # Lsyncd将在启动时删除目标上的文件，但不会在正常操作时删除
    delete    =    'running'  # Lsyncd在启动时不会删除目标上的文件，但会删除正常操作期间删除的文件
    # -----------------
    init                                # 这是一个优化选项，当init = false，只同步进程启动以后发生改动事件的文件，原有的目录即使有差异也不会同步。默认是true

    delay                               # 累计事件，等待rsync同步延时时间，默认15秒 *（最大累计到1000个不可合并的事件）。也就是15s内监控目录下发生的改动，会累积到一次rsync同步，避免过于频繁的同步。 *（可合并的意思是，15s内两次修改了同一文件，最后只同步最新的文件）

    excludeFrom                         # 排除选项，后面指定排除的列表文件，如excludeFrom = "/etc/lsyncd.exclude"如果是简单的排除，可以使用exclude = LIST。这里的排除规则写法与原生rsync有点不同，更为简单：监控路径里的任何部分匹配到一个文本，都会被排除，例如/bin/foo/bar可以匹配规则foo
    *（1） 如果规则以斜线/开头，则从头开始要匹配全部
    *（2） 如果规则以/结尾，则要匹配监控路径的末尾
    *（3） ?匹配任何字符，但不包括/
    *（4） *匹配0或多个字符，但不包括/
    *（5） **匹配0或多个字符，可以是/
}

rsync
{
    binary = "/usr/bin/rsync",
    archive = true,
    compress = true,
    verbose = true,
    password_file = "/etc/rsync_passwd",
    _extra = {"--bwlimit=200"}
     *（1） bwlimit 限速，单位kb/s，与rsync相同 *（这么重要的选项在文档里竟然没有标出）
     *（2） compress 压缩传输默认为true。在带宽与cpu负载之间权衡，本地目录同步可以考虑把它设为false
     *（3） perms 默认保留文件权限。
}

(4)：启动lsyncd

systemctl start lsyncd