我希望能够从同一个reducer输出写入多个目录。我正在使用MultipleOutput写入多个文件。现在,我想将这些文件移动到不同的目录。如何在Java中使用Hadoop MapReduce程序?
答案 0 :(得分:0)
这很容易。使用FileSystem.rename
。如,
Configuration conf = ...;
Job job = ...;
Path output = new Path("your_map_reduce_output_dir");
// ...
if(job.waitForCompletion(true)) {
FileSystem fs = FileSystem.get(conf);
Path dest = new Path("your_dest_dir");
return fs.rename(output, dest);
}
else {
return false;
}