Pig Join - 如何连接两个具有多个字段的表,其中key中的一个字段是可选的?

时间:2016-03-31 20:18:50

标签: join apache-pig

问题:猪初学者 - 下面是我的两个输入表

Table 1: Contain 3 columns (VID, TID and USID)
v1 TID101 US101 
v2 TID102 
v3 TID103 
v4 TID104 US104 
v5        US105 
v6        US106 

Table 2: Contain 3 columns (PID, TID, USID)
p1 TID101 US101
p2 TID102 US102
p3 TID103 US103
p4 TID104 US104
p5 TID105 US105

我想加入表1和表2并获得如下输出:

Expected Output:
v1 TID101 US101 p1
v2 TID102       p2
v3 TID103       p3
v4 TID104 US104 p4
v5        US105 p5

我尝试了内连接,如下所示:

a= JOIN table1 BY (TID, USID), table2 BY (TID, USID);
b= FOREACH a GENERATE table1::vID, table1::TID, table1::USID, table2::PID;

但我只得到以下输出:

Actual Output:
v1 TID101 US101 p1
v4 TID104 US104 p4

我可以尝试左外连接,但我觉得当我通过多个键加入时,两个键都被认为是加入的必需键,我不能拥有" OR"条件。我正在尝试的是,如果table1记录包含USID或TID,则从table2获取PID。我不确定我错过了什么并且有兴趣了解达到预期输出的最佳方法。请帮忙!

1 个答案:

答案 0 :(得分:3)

加入单列,结合结果并区分最终关系。

<强> PigScript

A = LOAD 'test1.txt' USING PigStorage('\t') as (a1:chararray,a2:chararray,a3:chararray);
B = LOAD 'test2.txt' USING PigStorage('\t') as (b1:chararray,b2:chararray,b3:chararray);

A2 = JOIN A BY (a2),B by (b2);
A3 = JOIN B BY (b3),A by (a3);

C = FOREACH A2 GENERATE A::a1,A::a2,A::a3,B::b1;
D = FOREACH A3 GENERATE A::a1,B::b2,B::b3,B::b1;

E = UNION C,D;
E1 = DISTINCT E;

DUMP E1;

<强>输出

https://developer.mozilla.org/en-US/docs/Web/API/EventTarget/addEventListener