我的Pig Latin脚本中的错误

时间:2016-12-04 07:26:50

标签: hadoop apache-pig bigdata

我试图对Pig中的文件进行中位数操作。该文件看起来像这样。

NewYork,-1
NewYork,-5
NewYork,-2
NewYork,3
NewYork,4
NewYork,13
NewYork,11
Amsterdam,12
Amsterdam,11
Amsterdam,2
Amsterdam,1
Amsterdam,-1
Amsterdam,-4
Mumbai,1
Mumbai,4
Mumbai,5
Mumbai,-2
Mumbai,9
Mumbai,-4

加载文件,其中的数据按如下方式分组:

 wdata = load 'weatherdata' using PigStorage(',') as (city:chararray, temp:int);
 wdata_g = group wdata by city;

我试图从城市的所有温度得到中位数如下:

wdata_tempmedian = foreach wdata_g { tu = wdata.temp as temp; ord = order tu by temp generate group, Median(ord); }

数据正在排序,因为需要按排序顺序查找中位数。 但我得到以下错误信息,我无法弄清楚错误是什么:

[main] ERROR org.apache.pig.tools.grunt.Grunt - ERROR 1200: <line 3, column 53> mismatched input 'as' expecting SEMI_COLON

非常感谢任何帮助。

1 个答案:

答案 0 :(得分:0)

你错过了';'订购温度后。

wdata_tempmedian = FOREACH wdata_g { 
                     tu = wdata.temp as temp; 
                     ord = ORDER tu BY temp;
                     GENERATE group, Median(ord);
                      }

OR

wdata_ordered = ORDER wdata_g BY temp;
wdata_tempmedian = FOREACH wdata_ordered GENERATE group, Median(ord);

注意:我假设您正在使用data-fu,因为PIG没有中位数功能。确保jar正确注册

register /path/datafu-pig-incubating-1.3.1.jar