Hive查询运行时有太多的Reducer

时间:2015-06-08 12:59:05

标签: hadoop mapreduce hive bigdata

最近我们已经从Hadoop 2.0.0-cdh4.2.1升级到Hadoop 2.6.0-cdh5.4.2。 现在我们使用的是Hive 1.1.0-cdh5.4.2。

当我运行一个简单的配置单元查询时,它需要太多的减速器,在之前的版本中它需要120个减速器,在新版本中它需要1100个减速器。

任何人都可以告诉我为什么会这样吗?

提前致谢。

1 个答案:

答案 0 :(得分:0)

缩减器的数量由配置单元决定,基于您分配的字节数或您使用的查询类型(使用计数而只选择*)。请查看此处了解更多信息。 here