曾多次想要在Linux下比较目录a和目录b中
文件列表
的差别,然后对目录a比目录b中多出的文件、少掉的文件分别做处理。但是,在网上搜索了多次也都没找到能直接处理好的工具。
所以想了不少方法,自我感觉都不错,而且网上似乎没有这方面的文章,所以分享出来给大家。如果各位有更好的工具或者方法,盼请留下说明(本文第2部分:
图形化的比较结果
搜集自网上,我也没有在图形化界面下操作的需要,所以没有多做介绍)
以下是本文有些地方涉及到的目录结构。
[root@node1 ~]# tree directory1 directory2
directory1
├── 1.png
├── 2.png
└── 3.png
directory2
├── 2.png
├── 3.png
└── 4.png
1.命令行输出的结果
方法一:使用diff
diff -r directory1 directory2
但是diff会对每个文件中的每一行都做比较,所以文件较多或者文件较大的时候会非常慢。请谨慎使用。
方法二:使用diff结合tree
diff <(tree -Ci --noreport /mnt/f/自然马) <(tree -Ci --noreport /mnt/i/自然马)
< /mnt/f/自然马
> /mnt/i/自然马
87a88
> xyz.avi
488d488
< rsync.txt
534d533
< 542D0.mp4
tree的-C
选项是输出颜色,如果只是看一下目录的不同,可以使用该选项,但在结合其他命令使用的时候建议不要使用该选项,因为颜色也会转换为对应的编码而输出;
-i
是不缩进,建议不要省略-i
,否则diff的结果很难看,也不好继续后续的文件操作;
--noreport
是不输出报告结果,建议不要省略该选项。
该方法效率很高。
方法三:find结合diff
find directory1 -printf "%P\n" | sort > file1
find directory2 -printf "%P\n" | sort | diff file1 -
< 1.png
> 4.png
<
代表的行是directory1中有而directory2没有的文件,>
则相反,是directory2中有而directory1中没有。
不要省略-printf "%P\n"
,此处的%P表示find的结果中去掉前缀路径,详细内容man find
。例如,find /root/ -printf "%P\n"
的结果中将显示/root/a/xyz.txt中去掉/root/后的结果:a/xyz.txt。
效率很高,输出也简洁。
如果不想使用-printf
,那么先进入各目录再find也行。
[root@node1 ~]# (cd /root/a;find . | sort >/tmp/file1)
[root@node1 ~]# (cd /root/b;find . | sort | diff /tmp/file1 -)
< ./1.png
> ./4.png
上面将命令放进括号中执行是为了在子shell中切换目录,不用影响当前所在目录。
方法四:使用rsync
rsync -rvn --delete directory1/ directory2 | sed -n '2,/^$/{/^$/!p}'
deleting a/xyz.avi
rsync.txt
新建文件夹/542D0.mp4
其中deleting所在的行就是directory2中多出的文件。其他的都是directory中多出的文件。
如果想区分出不同的是目录还是文件。可以加上"-i"选项。
rsync -rvn -i --delete directory1/ directory2 | sed -n '2,/^$/{/^$/!p}'
*deleting a/xyz.avi
>f+++++++++ rsync.txt
>f+++++++++ 新建文件夹/542D0.mp4
其中>f+++++++++
中的f代表的是文件,d代表的目录。
上面的rsync比较目录有几点要说明:
一定不能缺少-n选项,它表示dry run,也就是试着进行rsync同步,但不会真的同步。
第一个目录(directory1/)后一定不能缺少斜线,否则表示将directory1整个目录同步到directory2目录下。
其它选项,如"-r -v --delete"也都不能缺少,它们的意义想必都知道。
sed的作用是过滤掉和文件不相关的内容。
以上rsync假定了比较的两个目录中只有普通文件和目录,没有软链接、块设备等特殊文件。如果有,请考虑加上对应的选项或者使用-a替代-r,否则结果中将出现skipping non-regular file的提示。但请注意,如果有软链接,且加了对应选项(-l或-a或其他相关选项),则可能会出现fileA-->fileB
的输出。
效率很高,因为rsync的原因,筛选的可定制性也非常强。
方法五:把文件列表装进数组进行比较
把目录1内的所有文件放进数组1,目录2内的所有文件放进数组2,比较数组1和数组2即可。这种方式也可以考虑使用脚本语言快速实现。
当然,也可以放进关联数组或hash结构。下面是shell脚本的实现方式:
#!/usr/bin/env bash
declare -A arr1 arr2
old_ifs="$IFS"
IFS=$'\n'
for i in $(ls -1A "$1");do arr1["$i"]=1; done
for i in $(ls -1A "$2");do arr2["$i"]=1; done
IFS="$old_ifs"
echo "--- files in in '$1' and not in '$2' ---"
for key in "${!arr1[@]}";do
[ "${arr2[$key]}" ] || echo "$key"
echo "--- files in in '$2' and not in '$1' ---"
for key in "${!arr2[@]}";do
[ "${arr1[$key]}" ] || echo "$key"
$ bash a.sh directory1 directory2
2.图形化的比较结果
方法一:使用vimdiff
vimdiff <(cd directory1; find . | sort) <(cd directory2; find . | sort)
vimdiff <(find directory1 -printf "%P\n"| sort) <(find directory2 -printf "%P\n"| sort)
方法二:使用meld
meld是python写的一个图形化文件/目录比较工具,所以必须先安装图形界面或设置好图形界面接受协议。它的功能非常丰富,和win下的beyond compare有异曲同工之妙。
meld具体的使用方式就不介绍了。
3.将两目录中不同的文件筛选出来
个人建议使用命令行输出的结果中的方法方法三和方法四,因为它们都能很好地保留目录前缀。
以方法三为例:
find directory1 -printf "%P\n" | sort > file1
find directory2 -printf "%P\n" | sort | diff file1 -
以下是实验所需目录结构:
[root@node1 ~]# tree /root/a;tree /root/b
/root/a
├── 1.png
├── 2.png
└── 3.png
0 directories, 3 files
/root/b
├── 2.png
├── 3.png
├── 4.png
└── xen
└── scripts
└── block-drbd
首先比较这两个目录得到文件列表的差异。
find /root/a -printf "%P\n" | sort > /tmp/file1
find /root/b -printf "%P\n" | sort | diff /tmp/file1 - >diff.txt
然后从diff.txt中过滤出/root/a中多出的文件和/root/b中多出的文件。
# /root/a中多出的文件
awk '/</{printf("%s%s\n","/tmp/etc/",$2)}' diff.txt
/tmp/etc/1.png
# /root/b中多出的文件
awk '/>/{printf("%s%s\n","/tmp/etc/",$2)}' diff.txt
/tmp/etc/4.png
/tmp/etc/xen
/tmp/etc/xen/scripts
/tmp/etc/xen/scripts/block-drbd
需要注意的是,如果多了某个目录,则这个目录和其内所有文件都会列出来。如果要将多出的文件复制到其他地方,应当要注意这一点。
如果只想要比较出/root/a和/root/b下的文件和目录的不同,不再递归到子目录中比较。那么可以在find上继续加工一番:
find /root/a -maxdepth 1 -printf "%P\n" | sort > /tmp/file1
find /root/b -maxdepth 1 -printf "%P\n" | sort | diff /tmp/file1 - >diff.txt
# /root/a中多出的文件
awk '/</{printf("%s%s\n","/tmp/etc/",$2)}' diff.txt
/tmp/etc/1.png
# /root/b中多出的文件
awk '/>/{printf("%s%s\n","/tmp/etc/",$2)}' diff.txt
/tmp/etc/4.png
/tmp/etc/xen
这样一来,/root/b中多出的文件就是4.png和xen,xen目录中的文件不再列出。