有关在Hadoop MapReduce作业中调试辅助排序问题的任何提示吗?

时间:2012-02-10 15:05:07

标签: java sorting hadoop mapreduce

我相信(相信?)我理解二级排序在Hadoop中是如何工作的。我创建了一个由4个字段组成的中间密钥。我按第一个字段分区,按第一个和第二个分组,然后按全部4分类。

看起来我在分组和分区方面进行了分组,但这些值无法按顺序进入reducer。

关于如何进行调试的任何想法?

1 个答案:

答案 0 :(得分:0)

目前,手动或使用工具的静态代码审查似乎很有效。我相信我违反了规则:当覆盖compareTo()时,不要忘记覆盖equals()hashCode()。如果修复它解决了问题,我会让每个人都发布。