标签: hadoop mapreduce hive bigdata
最近我们已经从Hadoop 2.0.0-cdh4.2.1升级到Hadoop 2.6.0-cdh5.4.2。 现在我们使用的是Hive 1.1.0-cdh5.4.2。
当我运行一个简单的配置单元查询时,它需要太多的减速器,在之前的版本中它需要120个减速器,在新版本中它需要1100个减速器。
任何人都可以告诉我为什么会这样吗?
提前致谢。
答案 0 :(得分:0)
缩减器的数量由配置单元决定,基于您分配的字节数或您使用的查询类型(使用计数而只选择*)。请查看此处了解更多信息。 here