默认地图减少工作?有多少映射器和减速器

时间:2017-03-14 08:43:51

标签: hadoop mapreduce hdfs bigdata

我的问题是有多少默认的映射器和减速器作业,一个雇主问我,我说默认映射器4,还原器1,什么是Sqoop默认映射器

1 个答案:

答案 0 :(得分:0)

Sqoop默认运行4个映射器,可以用-m--num-mappers标记覆盖。

如果要导入的表不包含主键,或者--split-by命令中没有设置sqoop选项,那么它必须是单个映射任务。明确设置-m 1--autoreset-to-one-mapper以仅运行一个地图任务。

注意: Sqoop只运行Map map(无减压器)。

在典型的MapReduce作业中,映射器的数量取决于输入(使用其FileFormat),还原器的数量默认为1。

对于Distcp个作业,地图任务的数量将等于文件数。