Pseudocode使用MapReduce计算平均值

时间:2013-10-21 16:40:16

标签: mapreduce

您好我想用伪代码编写MapReduce算法来解决以下问题: 给出以下格式的输入记录:
地址,邮编,城市,house_value, 请计算每个邮政编码的平均房价。 如果你能帮助我,我真的很感激..

1 个答案:

答案 0 :(得分:0)

最简单的方法是使用Apache Pig,这是一个找到平均值的例子:

inpt = load 'data.txt' as (address:chararray, zip:chararray, city:chararray, house_value:long);
grp = group inpt by zip;
average = foreach grp generate FLATTEN(group) as (zip), AVG(inpt.house_value) as average_price;
dump average;

对于Pseudo Map Reduce代码,您需要一个MAPPER,COMBINER和一个REDUCER

MAPPER(record):
    zip_code_key = record['zip'];
    value = {1, record['house_value']};
    emit(zip_code_key, value);

COMBINER(zip_code_key, value_list):
    record_num = 0;
    value_sum = 0;
    foreach (value : value_list) {
       record_num += value[0];
       value_sum += value[1];
    }
    value_out = {record_num, value_sum};
    emit(zip_code_key, value_out);

REDUCER(zip_code_key, value_list):
    record_num = 0;
    value_sum = 0;
    foreach (value : value_list) {
       record_num += value[0];
       value_sum += value[1];
    }
    avg = value_sum / record_num;
    emit(zip_code_key, avg);