在Pig中生成独特的交叉

时间:2013-07-04 11:51:40

标签: hadoop apache-pig

我有问题。我不明白如何为输入生成唯一的“交叉”。 以下是我的意见:

A, B, C

我想得到:

A,B
A,C
B,C

我可以用什么UDF(data-fu,piggybank)来解决这个问题?

1 个答案:

答案 0 :(得分:1)

如果你的输入是

A
B
C

并且您想要输出:

A,B
A,C
B,C

您可以使用cross加入来获取结果。例如:

input1 = load 'your_path' as (key: chararray);
input2 = load 'your_path' as (key: chararray);
cross_results = cross input1, input2;
final_results = filter cross_results by input1::key < input2::key;

如果&#34; A,B,C&#34;只是一个记录中的一个包,您可以使用flatten。例如,

-- Assume your input x is something like {A, B, C} in one row
y = foreach x generate flatten($0) as f1, flatten($0) as f2;
final_results = filter y by f1 < f2;

由于您的描述不是很详尽,我只能提供上述解决方案。您可能需要对其进行调整。