使用awk对公共元素进行分组

时间:2013-05-03 09:48:20

标签: linux shell unix awk grouping

下表说明了我希望操作的数据的简要快照。我正在寻找一个awk脚本,将类似的元素组合成一个组。例如。如果你看下表:

  1. 数字(1,2,3,4,6)应该都属于一个组。所以row1 row2 row4 row8将是组“1”
  2. Number 9是唯一的,没有任何共同元素。所以它将单独驻留在一个单独的组中,比如第2组
  3. 同样,数字5,7将驻留在一个组中,例如组3,依此类推......
  4. 文件:

    heading1        heading2         numberlist     group
    name1           text             1,2,3          1
    name2           text             2              1
    name3           text             9              2
    name4           text             1,4            1
    name5           text             5,7            3
    name6           text             7              3
    name7           text             8              4
    name8           text             6,2            1
    

    我正在搜索类似于我的查询并找到此链接。 Grouping lists by common elements。但解决方案是使用C ++而不是awk,这是我的主要要求。

    顺便说一句,我还发现这个awk解决方案与我的查询有些相关,但它没有处理逗号分隔值。 awk script grouping with array

    Numberlist,即$ 3是我对分组的唯一考虑。

1 个答案:

答案 0 :(得分:0)

这个问题似乎与我的一个问题几乎相同,我在你的例子中使用了一个列来解决我的问题:)所以......

[[bash_prompt$]]$ cat log ; echo "########"; \
> cat test.sh ;echo "########";  awk -f test.sh log
heading1        heading2         numberlist     group
name1           text             1,2,3
name2           text             2
name3           text             9
name4           text             1,4
name5           text             5,7
name6           text             7
name7           text             8
name8           text             6,2
########
/^name/{
  i=0; j=0;
  split($3,a,",");
  for(var in a) {
    for(var1 in q) {
      split(q[var1],r,",");
      for(var2 in r) {
        if(r[var2] == a[var]) {
          i=1;
          j=((var1+1));
        }
      }
    }
  }
    if(i == 0) {
      q[length(q)] = $3;
      j=length(q);
    }
  print $1 "\t\t" $2 "   \t\t" $3 "\t\t" j;
}
########
name1           text            1,2,3           1
name2           text            2               1
name3           text            9               2
name4           text            1,4             1
name5           text            5,7             3
name6           text            7               3
name7           text            8               4
name8           text            6,2             1
[[bash_prompt$]]$

更新:

split将第一个参数拆分为第三个参数中传递的分隔符,并将其放入第二个参数指向的数组中。这里的主数组是q,它包含一个组的组成员,它基本上是一个数组的数组,其中元素的索引是组id,元素是该组的所有成员的集合。因此q[0]="1,2,3"表示第0组包含成员123。现在在awk中,首先读取一行以name/^name/)开头。然后将第3个字段(1,2,3)分解为数组a。现在对于数组a中的每个元素,我们将每个组存储到q(for(var1 in q))中,然后在每个组内部,我们将它们分成另一个临时数组r(split(q[var1],r,",")),即“1, 2,3“被分成一个数组r。现在将r中的每个元素与a中的元素进行比较。如果找到匹配,则该组的索引是该行的索引(数组索引从0开始,组从1开始,因此((var1 + 1))使用。现在如果没有找到,只需将其添加为q中的新组,最后一个索引+ 1,即数组的长度是行的索引

更新

/^name/{
  j=0;
  split($3,a,",");
  for(var in a) {
    if(q[a[var]] != 0) {
      j=q[a[var]]; i=1;
      break;
    }
  }
  j = (j == 0) ? ++k : j;
  for(var1 in a) {
    if(q[a[var1]] == 0) {
      q[a[var1]] = j;
    }
  }
  print $1 "\t\t" $2 "   \t\t" $3 "\t\t" j;
}

更新:

base是awk具有关联数组,每个元素都由字符串键访问。早期的方法是将每个组存储在一个数组中,其中key是组的索引。因此,当我们读取一列时,我们将读取每个组,将该组拆分为单个元素,将每个元素与该列的每个元素进行比较。但是,如果我们将元素存储在一个数组中,而不是存储一个组,其中key是元素本身,key的值是元素所属的组的索引。因此,当我们读取一个列时,我们将列拆分为单个元素(split($3,a,",");),然后检查数组中的元素,如果有一个组索引,其中元素为if(q[a[var]] != 0)中的键(在awk中,如果元素不存在,默认情况下,在那里初始化值为0的元素,因此检查q[a[var]] != 0)。如果找到任何元素,我们将元素的组索引作为列的索引并中断。否则j将保持为0.如果j仍为0,则++k会提供最新的群组索引。现在我们找到了列元素的组索引。需要将那个索引带到那些不属于任何其他组的元素(有些情况下同一列中的多个元素属于不同的组,这里我们采用先到先得的方法,但不要过度写已经属于另一组的其他组的索引)。因此,对于列(for(var1 in a))中的每个元素,如果它不属于某个组(if(q[a[var1]] == 0)),请为其指定组索引q[a[var1]] = j;。所以这里所有访问都是线性的,因为我们直接使用元素访问一个键。因此,不会为每个元素一次又一次地分组,因此时间更短。我的第一种方法是基于我自己的一个问题(我在第一行中提到),这是一个更复杂的处理但更短的数据集。但是这个需要一个更简单的直接逻辑。