Question

我的数据集如下所示：

( A, (1,2) )
( B, (2,9) )

我想“压扁”Pig中的元组，基本上重复内元组中找到的每个值的每条记录，这样预期的输出是：

( A, 1 )
( A, 2 )
( B, 2 ) 
( B, 9 )

我知道当元组（1,2）和（2,9）是袋子时这是可能的。

Answer 1

你的洞察力很好;它可以通过将元组转换成一个袋子来实现。我们想要的模式是：{a：chararray，{（chararray）}}例如：（A，{（1），（2）}）

以下是您问题的解决方案：

A = LOAD 'data.txt' AS (a:chararray,b:(b1:chararray,b2:chararray));
B = FOREACH A GENERATE a, TOBAG(b.b1,b.b2);
C = FOREACH B GENERATE a, FLATTEN($1);

神奇的部分是TOBAG算子。

Answer 2

您可以使用DataFu的UDF TransposeTupleToBag（http://datafu.incubator.apache.org/docs/datafu/1.1.0/datafu/pig/util/TransposeTupleToBag.html）然后展平行李，以便在行李中的每个项目中获得一行。

Answer 3

我知道这是一个旧线程，但我无法使用上述方法。我以为我会分享我的发现。

input: (1-2-3, abc)
       (4-5-6, xyz)
desired output:
       (1, abc)
       (2, abc)
       (3, abc)
       (4, xyz)
       (5, xyz)
       (6, xyz)

最初，我使用STRSPLIT生成一个元组，导致类似的输入，但不成功。

output = FOREACH input GENERATE FLATTEN(TOBAG(STRSPLIT($0, '-'))), $1

这导致输出为：

 (1,2,3,abc)
 (4,5,6,xyz)

然而，当我使用tokenize和replace函数时，我得到了所需的输出。

output = FOREACH input GENERATE FLATTEN(TOKENIZE(REPLACE($0,'-', ' '))), $1;

像包一样扁平元组

3 个答案: