与多列进行文件比较

时间:2012-10-31 15:57:32

标签: perl bash unix awk

我正在进行目录清理以检查我们的测试环境中没有使用的文件。我有一个列表,列出了在文本文件中按字母顺序排序的所有文件名,以及我要比较的另一个文件。

以下是第一个文件的设置方式:

test1.pl
test2.pl
test3.pl

根据下面的其他文件,我想要清理的目录中所有脚本的每行文本文件都是一个简单的脚本名称。

我想要比较的文件是一个标签文件,它列出了每个服务器作为测试运行的脚本,显然有很多重复项。我想从这个文件中删除测试脚本名称并比较将其吐出到另一个文件,使用uniqsort以便我可以diff使用上面的文件查看哪个文件测试脚本没有被使用。

文件设置如下:

server: : test1.pl test2.pl test3.pl test4.sh test5.sh

有些线路较少,部分线路较多。我的第一个冲动是制作一个Perl脚本来拆分该行并将值推送到列表中(如果它们不在那里,但这似乎完全没有效率)。我没有体验到awk,但我认为有不止一种方法可以做到这一点。还有其他想要比较这些文件的想法吗?

5 个答案:

答案 0 :(得分:1)

这会通过awk将文件名重新排列为第二个文件中的每行一个,然后diff将输出与第一个文件重新排列。

diff file1 <(awk '{ for (i=3; i<=NF; i++) print $i }' file2 | sort -u)

答案 1 :(得分:1)

Perl解决方案,它对服务器使用的文件进行%needed哈希,然后检查包含所有文件名的文件。

#!/usr/bin/perl
use strict;
use warnings;
use Inline::Files;

my %needed;
while (<SERVTEST>) {
    chomp;
    my (undef, @files) = split /\t/;
    @needed{ @files } = (1) x @files;
}

while (<TESTFILES>) {
    chomp;
    if (not $needed{$_}) {
        print "Not needed: $_\n";   
    }
}

__TESTFILES__
test1.pl
test2.pl
test3.pl
test4.pl
test5.pl
__SERVTEST__
server1::   test1.pl    test3.pl
server2::   test2.pl    test3.pl
__END__
*** prints

C:\Old_Data\perlp>perl t7.pl
Not needed: test4.pl
Not needed: test5.pl

答案 2 :(得分:0)

快速而肮脏的脚本来完成这项工作。如果听起来不错,请使用open来通过正确的错误检查来读取文件。

use strict;
use warnings;
my @server_lines = `cat server_file`;chomp(@server_lines);
my @test_file_lines = `cat test_file_lines`;chomp(@test_file_lines);
foreach my $server_line (@server_lines){
   $server_line =~ s!server: : !!is;
   my @files_to_check = split(/\s+/is, $server_line);
   foreach my $file_to_check (@files_to_check){
      my @found = grep { /$file_to_check/ } @test_file_lines;
      if (scalar(@found)==0){
        print "$file_to_check is not found in $server_line\n";
      }
   }

}

答案 3 :(得分:0)

如果我理解你的需要,你有一个包含测试列表的文件(testfiles.txt):

test1.pl
test2.pl 
test3.pl
test4.pl
test5.pl

带有服务器列表的文件,其中包含所有测试的文件(serverlist.txt):

server1:        :       test1.pl        test3.pl
server2:        :       test2.pl        test3.pl

(我把所有空格都当作标签)。

如果您将第二个文件转换为经过测试的文件列表,则可以使用diff将其与原始文件进行比较。

cut -d: -f3 serverlist.txt | sed -e 's/^\t//g' | tr '\t' '\n' | sort -u > tested_files.txt

cut删除服务器名称和':',sed删除留下的前导标签,tr然后将剩余的标签转换为换行符,然后我们进行独特的排序排序和删除重复项。这是输出到tested_files.txt

然后你所做的就是diff testfiles.txt tested_files.txt

答案 4 :(得分:0)

很难分辨,因为你没有发布预期的输出,但这是你想要的吗?

$ cat file1
test1.pl
test2.pl
test3.pl
$
$ cat file2
server: : test1.pl test2.pl test3.pl test4.sh test5.sh
$
$ gawk -v RS='[[:space:]]+' 'NR==FNR{f[$0]++;next} FNR>2 && !f[$0]' file1 file2
test4.sh
test5.sh