Question

我有盗版数据集与以下字段的关系：

date, country_code, torrent_id, first_seen, torrent_size, quality, movie_id, value

我想按日期，国家/地区，电影和质量进行分组来计算值的总和。但我也想计算当前可用电影的所有种子的torrent_size的MIN，MAX，AVG。

这是我到目前为止所得到的

A = FOREACH (GROUP data BY (date, country_code, movie_id, quality)) {
    GENERATE group, SUM(data.value) as total_piracy;
};

然而，我不知道如何在不考虑国家的情况下如何处理电影的MIN，MAX，AVG大小。

Answer 1

您可以查看以下命令：

A= LOAD '<locationOfDataSet>' USING PigStorage(',') 
AS (date:chararray, country_code:chararray, torrent_id:int, first_seen:chararray, torrent_size:int, quality:chararray, movie_id:int, value:int) ;
B=GROUP A BY (date,movie_id);
C=FOREACH B GENERATE group, MIN(A.torrent_size), MAX(A.torrent_size),AVG(A.torrent_size);
dump C;

希望这有帮助。

Answer 2

创建另一个关系并按日期分组，电影并获取MIN，MAX，AVG

B = GROUP data BY (date,movie);
C = FOREACH B GENERATE group, 
                       MIN(data.torrent_size) as min_ts,
                       MAX(data.torrent_size) as max_ts,
                       AVG(data.torrent_size) as avg_ts;

根据条件计算MIN，AVG，MAX

2 个答案: