MapReduce处理如何与本地文件系统一起使用?

时间:2017-11-03 10:26:01

标签: hadoop mapreduce hdfs

如果输入/输出来自本地文件系统,MapReduce处理如何工作?

MapReduce作业执行是否在Hadoop集群中异步发生? 如果是的话,那会怎么样?

在哪个用例中,我们是否真的需要使用这种方法?

1 个答案:

答案 0 :(得分:0)

  1. MapReduce在本地系统中工作得相同(mapper-> reducer)

    (只是效率问题,因为它在本地系统而不是集群中效率较低)。

  2. 是的,MapReduce作业执行在Hadoop集群中异步发生(这取决于您在mapreduce程序中使用的调度程序类型)

    点击for more about scheduler

  3. 在大多数情况下,这用于测试目的(在本地系统中运行mapreduce程序)。