利用rsync+crontab实现Linux的定时增量备份电子教案.docx
《利用rsync+crontab实现Linux的定时增量备份电子教案.docx》由会员分享,可在线阅读,更多相关《利用rsync+crontab实现Linux的定时增量备份电子教案.docx(14页珍藏版)》请在冰点文库上搜索。
利用rsync+crontab实现Linux的定时增量备份电子教案
利用rsync+crontab实现Linux的定时增量备份
Linux下rsync文件同步服务器配置详解
摘要:
rsync是一个快速增量文件传输工具,它可以用于在同一主机备份内部的备份,我们还可以把它作为不同主机网络备份工具之用。
本文主要讲述的是如何自架rsync服务器,以实现文件传输、备份和镜像。
相对tar和wget来说,rsync也有其自身的优点,比如速度快、安全、高效。
1什么是rsync;
rsync是一个Unix系统下的文件同步和传输工具。
rsync是用“rsync算法”提供了一个客户机和远程文件服务器的文件同步的快速方法。
rsync包括如下的一些特性:
能更新整个目录和树和文件系统;
有选择性的保持符号链链、硬链接、文件属于、权限、设备以及时间等;
对于安装来说,无任何特殊权限要求;
对于多个文件来说,内部流水线减少文件等待的延时;
能用rsh、ssh或直接端口做为传输入端口;
支持匿名rsync同步文件,是理想的镜像工具;
2rsync服务器的理由;
rsync服务器架设比较简单,可能我们安装好rsync后,并没有发现配置文件,以及rsync服务器启动程序,因为每个管理员可能对rsync用途不一样,所以一般的发行版只是安装好软件就完事了,让管理员来根据自己的用途和方向来自己架设rsync服务器;因为这个rsync应用比较广,能在同一台主机进行备份工作,还能在不同主机之间进行工作。
在不同主机之间的进行备份,是必须架设rsync服务器的。
以我的观点上看,如果在同一台主机进行文件的备分,用复制工具cp就好了。
没必要用rsync这么相对复杂的工具,cp也简单易用,当然这仅仅是个人观点;
对于重量级服务器来说,应该有网络备份服务器来说,只有本地备份还是不够的,最好还是有网络备份主机,这样数据的安全才有保证。
毕竟数据放在服务器本地上还是不太安全,比如磁盘坏掉、被骇客攻入服务器删除数据。
其实服务器本身价值并不大,重要的是数据的价值。
另外对于大量文件从一台服务器上迁移到另一台服务器上,rsync的确是一个不可不用传输工具。
公司有一台文件服务器,配置是CPUIntelCeleon333Mhz,内存128M,硬盘IDE80Gx3=240G,里面仅是第一个硬盘的12G的分区安装系统,用了256M做为交换分区,其它的空间我都用来存数据,通过LVM卷来管理磁盘空间,我分了一个180G的空间给数据存放,当时数据存储容量已经达到了160多G。
当时的情况是服务器空间有限,没做本地备份。
更不可能新增硬盘上去,因为这台机器没做RAID,硬盘坏掉一个,数据会全毁掉,安全性没有一点保障。
在这种情况下,为了保证数据的安全性,我被迫做了一台带有Raid5支持的文件服务器。
在选择如何把数据文件完整的传输到新服务器上,我想到了很多的工具,最后想到了rsync。
我花了十分钟架设并调试了rsync,然后就开工文件传输,因为文件服务器上的文件太多,老的文件服务器配置又低,大约花了两三天吧才得以把所有文件传输完毕。
3架设rsync服务器过程;
架设rsync服务器比较简单,写一个配置文件rsyncd.conf。
文件的书写也是有规则的,我们可以参照rsync.samba.org上的文档来做;当然我们首先要安装好rsync这个软件才行;
3.1rsync的安装;
3.1.1查看服务器是否安装rsync
[root@Server-B~]#rpm-qa|greprsync #查看是否有rsync包
rsync-2.6.8-3.1
现在Linux各大发行版都已安装好rsync
3.1.2安装rsync
软件安装过于简单,现在Linux各大发行版都提供这个软件包,当然您也可以自己编译安装,在目前的情况下,我看没太大的必要;
[root@linuxsir:
beinan]$sudoapt-getinstallrsync注:
在debian、ubuntu等在线安装方法;
[root@linuxsir:
beinan]#slackpkginstallrsync注:
Slackware软件包在线安装;
[root@linuxsir:
beinan]#yuminstallrsync注:
Fedora、Redhat等系统安装方法;
其它Linux发行版,请用相应的软件包管理方法来安装;如果是源码包,也就是用下面的办法;
[root@linuxsir:
/home/beinan]#tarxvfsync-xxxx.tar.gz或sync-xxx.tar.bz2
[root@linuxsir:
/home/beinan]#cdsync-xxx
[root@linuxsir:
/home/beinan/sync-xxx]#./configure--prefix=/usr;make;makeinstall注:
在用源码包编译安装之前,您得安装gcc等编译开具才行;
3.1.3rsync服务器的配置文件rsyncd.conf
1、在服务器端配置(需要备份文件目录服务器上),建立
/etc/rsyncd.conf和/etc/rsyncd.passwd文件
内容如下:
Vi/etc/rsyncd.conf
uid=oracle
gid=oinstall
maxconnections=36000
usechroot=no
logfile=/var/log/rsyncd.log
pidfile=/var/run/rsyncd.pid
lockfile=/var/run/rsyncd.lock
[htdocs]
comment=backuphtdocs
path=/home/oracle/portal/
ignoreerrors
readonly=yes
hostallow=10.16.172.215
hostdeny=*
secretsfile=/etc/rsyncd.passwd
authusers=oracle
vi/etc/rsyncd.passwd
oracle:
ci123456
2、修改文件的权限
chmod600/etc/rsyncd.conf
chmod600/etc/rsyncd.passwd
3、运行rsync
rsync--daemon
检查一下
ps-ef|greprsync
出现
[root@root~]#ps-ef|greprsync
root273191015:
51?
00:
00:
00rsync--daemon
nobody2734027319215:
55?
00:
00:
08rsync--daemon
说明服务运行正常
4、客户端只需要编辑
vi/etc/rsyncd.passwd
输入ci123456,也就是密码要和服务器端设置的一样。
修改文件的权限
chmod600/etc/rsyncd.passwd
5、下面就可以实验一下是否能够同步了:
执行命令
rsync-azP--deleteoracle@10.16.172.212:
:
htdocs/data/portal--password-file=/etc/rsyncd.passwd
运行正常开始往备份的目录写文件了。
ckeditor/201201101540553134.jpg
2513091100%194.45kB/s0:
00:
12(xfer#180,to-check=7150/7381)
ckeditor/201201101543239059.jpg
3027658100%224.20kB/s0:
00:
13(xfer#181,to-check=7149/7381)
6、设置crontab进行定时任务
crontab-e
增加
102***(rsync-azP--deleteoracle@10.16.172.213:
:
htdocs/ci2013/portal--password-file=/etc/rsyncd.passwd)
每天凌晨2:
10开始进行增量备份。
/etc/init.d/crondrestart
重新开始运行计划任务。
4rsync.conf文件详解
list=yes
#允许访问目录列表
maxconnections=10
#最大的连接数为10
logfile=/var/log/rsyncd.log
#存放日志文件的路径
pidfile=/var/run/rsyncd.pid
#存放进程标识文件的路径
hostsallow=192.168.0.0/24
#允许访问rsync服务的地址范围
[htdocs]
#此为发布共享的模块名
path=/data
#共享模块的路径
comment=It'smystudydata!
#注释信息
readonly=yes
#标识为可读
ignoreerrors
#忽略错误
hostallow=10.16.172.215
#允许同步文件的客户端IP
hostdeny=*
#禁止同步文件的客户端IP
authusers=oracle
#授权的用户名
secretsfile=/etc/rsyncd.pass
#授权用户的密码文件位置
5rsync命令的用法及参数
在对rsync服务器配置结束以后,下一步就需要在客户端发出rsync命令来实现将服务器端的文件备份到客户端来。
rsync是一个功能非常强大的工具,其命令也有很多功能特色选项,我们下面就对它的选项一一进行分析说明。
Rsync的命令格式可以为以下六种:
rsync[OPTION]...SRCDEST
rsync[OPTION]...SRC[USER@]HOST:
DEST
rsync[OPTION]...[USER@]HOST:
SRCDEST
rsync[OPTION]...[USER@]HOST:
:
SRCDEST
rsync[OPTION]...SRC[USER@]HOST:
:
DEST
rsync[OPTION]...rsync:
//[USER@]HOST[:
PORT]/SRC[DEST]
对应于以上六种命令格式,rsync有六种不同的工作模式:
1)拷贝本地文件。
当SRC和DES路径信息都不包含有单个冒号":
"分隔符时就启动这种工作模式。
如:
rsync-a/data/backup
2)使用一个远程shell程序(如rsh、ssh)来实现将本地机器的内容拷贝到远程机器。
当DST路径地址包含单个冒号":
"分隔符时启动该模式。
如:
rsync-avz*.cfoo:
src
3)使用一个远程shell程序(如rsh、ssh)来实现将远程机器的内容拷贝到本地机器。
当SRC地址路径包含单个冒号":
"分隔符时启动该模式。
如:
rsync-avzfoo:
src/bar/data
4)从远程rsync服务器中拷贝文件到本地机。
当SRC路径信息包含":
:
"分隔符时启动该模式。
如:
rsync-avroot@172.16.78.192:
:
www/databack
5)从本地机器拷贝文件到远程rsync服务器中。
当DST路径信息包含":
:
"分隔符时启动该模式。
如:
rsync-av/databackroot@172.16.78.192:
:
www
6)列远程机的文件列表。
这类似于rsync传输,不过只要在命令中省略掉本地机信息即可。
如:
rsync-vrsync:
//172.16.78.192/www
rsync参数的具体解释如下:
-v,--verbose详细模式输出
-q,--quiet精简输出模式
-c,--checksum打开校验开关,强制对文件传输进行校验
-a,--archive归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD
-r,--recursive对子目录以递归模式处理
-R,--relative使用相对路径信息
-b,--backup创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。
可以使用--suffix选项来指定不同的备份文件前缀。
--backup-dir将备份文件(如~filename)存放在在目录下。
-suffix=SUFFIX定义备份文件前缀
-u,--update仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。
(不覆盖更新的文件)
-l,--links保留软链结
-L,--copy-links想对待常规文件一样处理软链结
--copy-unsafe-links仅仅拷贝指向SRC路径目录树以外的链结
--safe-links忽略指向SRC路径目录树以外的链结
-H,--hard-links保留硬链结
-p,--perms保持文件权限
-o,--owner保持文件属主信息
-g,--group保持文件属组信息
-D,--devices保持设备文件信息
-t,--times保持文件时间信息
-S,--sparse对稀疏文件进行特殊处理以节省DST的空间
-n,--dry-run现实哪些文件将被传输
-W,--whole-file拷贝文件,不进行增量检测
-x,--one-file-system不要跨越文件系统边界
-B,--block-size=SIZE检验算法使用的块尺寸,默认是700字节
-e,--rsh=COMMAND指定使用rsh、ssh方式进行数据同步
--rsync-path=PATH指定远程服务器上的rsync命令所在路径信息
-C,--cvs-exclude使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件
--existing仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件
--delete删除那些DST中SRC没有的文件
--delete-excluded同样删除接收端那些被该选项指定排除的文件
--delete-after传输结束以后再删除
--ignore-errors及时出现IO错误也进行删除
--max-delete=NUM最多删除NUM个文件
--partial保留那些因故没有完全传输的文件,以是加快随后的再次传输
--force强制删除目录,即使不为空
--numeric-ids不将数字的用户和组ID匹配为用户名和组名
--timeout=TIMEIP超时时间,单位为秒
-I,--ignore-times不跳过那些有同样的时间和长度的文件
--size-only当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间
--modify-window=NUM决定文件是否时间相同时使用的时间戳窗口,默认为0
-T--temp-dir=DIR在DIR中创建临时文件
--compare-dest=DIR同样比较DIR中的文件来决定是否需要备份
-P等同于--partial
--progress显示备份过程
-z,--compress对备份的文件在传输时进行压缩处理
--exclude=PATTERN指定排除不需要传输的文件模式
--include=PATTERN指定不排除而需要传输的文件模式
--exclude-from=FILE排除FILE中指定模式的文件
--include-from=FILE不排除FILE指定模式匹配的文件
--version打印版本信息
--address绑定到特定的地址
--config=FILE指定其他的配置文件,不使用默认的rsyncd.conf文件
--port=PORT指定其他的rsync服务端口
--blocking-io对远程shell使用阻塞IO
-stats给出某些文件的传输状态
--progress在传输时现实传输过程
--log-format=formAT指定日志文件格式
--password-file=FILE从FILE中得到密码
--bwlimit=KBPS限制I/O带宽,KBytespersecond
-h,--help显示帮助信息
一般都使用azv选项
6常见问题
问题一:
@ERROR:
chrootfailed
rsyncerror:
errorstartingclient-serverprotocol(code5)atmain.c(1522)[receiver=3.0.3]
原因:
服务器端的目录不存在或无权限。
创建目录并修正权限可解决问题。
问题二:
@ERROR:
authfailedonmoduletee
rsyncerror:
errorstartingclient-serverprotocol(code5)atmain.c(1522)[receiver=3.0.3]
原因:
服务器端该模块(tee)需要验证用户名密码,但客户端没有提供正确的用户名密码,认证失败。
提供正确的用户名密码解决此问题。
问题三:
@ERROR:
Unknownmodule‘tee_nonexists’
rsyncerror:
errorstartingclient-serverprotocol(code5)atmain.c(1522)[receiver=3.0.3]
原因:
服务器不存在指定模块。
提供正确的模块名或在服务器端修改成你要的模块以解决问题。
问题四:
passwordfilemustnotbeother-accessiblecontinuingwithoutpasswordfilePassword:
原因:
这是因为rsyncd.pwdrsyncd.secrets的权限不对,应该设置为600。
如:
chmod600rsyncd.pwd
问题五:
rsync:
failedtoconnectto218.107.243.2:
Noroutetohost(113)
rsyncerror:
errorinsocketIO(code10)atclientserver.c(104)[receiver=2.6.9]
原因:
对方没开机、防火墙阻挡、通过的网络上有防火墙阻挡,都有可能。
关闭防火墙,其实就是把tcpudp的873端口打开。
问题六:
rsyncerror:
errorstartingclient-serverprotocol(code5)atmain.c(1524)[Receiver=3.0.7]
原因:
/etc/rsyncd.conf配置文件内容有错误。
请正确核对配置文件。
问题七:
rsync:
chown""failed:
Invalidargument(22)
原因:
权限无法复制。
去掉同步权限的参数即可。
(这种情况多见于Linux向Windows的时候)
问题八:
@ERROR:
daemonsecurityissue--contactadmin
rsyncerror:
errorstartingclient-serverprotocol(code5)atmain.c(1530)[sender=3.0.6]
原因:
同步的目录里面有软连接文件,需要服务器端的/etc/rsyncd.conf打开usechroot=yes。
掠过软连接文件。
问题九:
rsync:
readerror:
Connectionresetbypeer(104)
rsyncerror:
errorinrsyncprotocoldatastream(code12)atio.c(794)[receiver=3.0.2]
解决:
很大可能是服务器端没有开启rsync服务,开启服务。
问题十:
@ERROR:
failedtoopenlockfile
rsyncerror:
errorstartingclient-serverprotocol(code5)atmain.c(1495)[receiver=3.0.2]
解决:
配置文件rsync.conf中添加lockfile=rsyncd.lock即可解决。
问题十一:
rsync:
connectionunexpectedlyclosed(0bytesreceivedsofar)[receiver]
rsyncerror:
errorinrsyncprotocoldatastream(code12)atio.c(359)
试过以下方法,都不可以
重启rsync
重装rsync
查看rsync的密码文件,没有错
最后服务器上看
netstat-tlnp
发现监听873端口的变成了rpc.statd,而不是rsync
tcp000.0.0.0:
8730.0.0.0:
*LISTEN3659/rpc.statd
晚上搜索了,知道这是nfslock的进程,马上
serviceportmapstop
servicenfsstop
servicenfslockstop
chkconfig--level2345portmapoff
chkconfig--level2345nfslockoff
chkconfig--level2345nfsoff
再开启
/usr/local/bin/rsync--daemon
此时同步,终于成功了