加入多个文件

时间:2012-05-23 19:20:45

标签: linux join sed

我使用标准join命令基于column1连接两个已排序的文件。 该命令是简单的连接文件1文件2> OUTPUT_FILE。

但是如何使用相同的技术加入3个或更多文件? join file1 file2 file3>输出文件 上面的命令给了我一个空文件。 我认为sed可以帮助我,但我不太确定如何?

8 个答案:

答案 0 :(得分:19)

man join

NAME
       join - join lines of two files on a common field

SYNOPSIS
       join [OPTION]... FILE1 FILE2

它仅适用于两个文件。

如果您需要加入三个,也许您可​​以先加入前两个,然后加入第三个。

尝试:

join file1 file2 | join - file3 > output

应该加入这三个文件而不创建中间临时文件。 -告诉join命令从stdin

读取第一个输入流

答案 1 :(得分:10)

可以通过递归地构造join s的管道来加入多个文件(N> = 2):

#!/bin/sh

# multijoin - join multiple files

join_rec() {
    if [ $# -eq 1 ]; then
        join - "$1"
    else
        f=$1; shift
        join - "$f" | join_rec "$@"
    fi
}

if [ $# -le 2 ]; then
    join "$@"
else
    f1=$1; f2=$2; shift 2
    join "$f1" "$f2" | join_rec "$@"
fi

答案 2 :(得分:8)

我知道这是一个老问题,但供将来参考。 如果您知道要加入的文件具有类似问题的模式,例如: file1 file2 file3 ... fileN 然后你可以使用这个命令简单地加入它们

cat file* > output

其中输出将是按字母顺序连接的一系列连接文件。

答案 3 :(得分:4)

我为此创建了一个函数。第一个参数是输出文件,rest参数是要连接的文件。

function multijoin() {
    out=$1
    shift 1
    cat $1 | awk '{print $1}' > $out
    for f in $*; do join $out $f > tmp; mv tmp $out; done
}

用法:

multijoin output_file file*

答案 4 :(得分:2)

man的{​​{1}}页面声明它仅适用于两个文件。所以你需要创建和中间文件,然后删除,即:

join

答案 5 :(得分:1)

还有一个老问题,那就是如何用一个String user = request.getParameter("user"); 来做到这一点:

awk

此脚本假定:

  • 所有文件的行数相同
  • 输出顺序与第一个文件的顺序相同。
  • 文件无需在字段awk -v j=<field_number> '{key=$j; $j=""} # get key and delete field j (NR==FNR){order[FNR]=key;} # store the key-order {entry[key]=entry[key] OFS $0 } # update key-entry END { for(i=1;i<=FNR;++i) { key=order[i]; print key entry[key] # print } }' file1 ... filen 中排序
  • <field_number>是有效的整数。

答案 6 :(得分:0)

在公共字段上加入两个文件的连接行。如果你想加入更多 - 成对加入。首先加入前两个文件,然后将结果与第三个文件等结合起来。

答案 7 :(得分:0)

假设您有四个文件A.txt,B.txt,C.txt和D.txt,分别为:

~$ cat A.txt
x1 2
x2 3
x4 5
x5 8

~$ cat B.txt
x1 5
x2 7
x3 4
x4 6

~$ cat C.txt
x2 1
x3 1
x4 1
x5 1

~$ cat D.txt
x1 1

通过以下方式加入文件:

firstOutput='0,1.2'; secondOutput='2.2'; myoutput="$firstOutput,$secondOutput"; outputCount=3; join -a 1 -a 2 -e 0 -o "$myoutput" A.txt B.txt > tmp.tmp; for f in C.txt D.txt; do firstOutput="$firstOutput,1.$outputCount"; myoutput="$firstOutput,$secondOutput"; join -a 1 -a 2 -e 0 -o "$myoutput" tmp.tmp $f > tempf; mv tempf tmp.tmp; outputCount=$(($outputCount+1)); done; mv tmp.tmp files_join.txt

结果:

~$ cat files_join.txt 
x1 2 5 0 1
x2 3 7 1 0
x3 0 4 1 0
x4 5 6 1 0
x5 8 0 1 0