如何在hadoop中将目录中的所有文件移动到另一个目录

时间:2016-05-31 17:06:57

标签: scala apache-spark

我正在尝试使用spark scala将所有文件从目录移动到HDFS中的另一个目录。总之,我需要找到以编程方式使用hadoop fs -mv命令的方法。因为我是hadoop的新手,如果有人可以帮忙的话会很棒。

1 个答案:

答案 0 :(得分:1)

要在HDFS上执行操作,您只需要通过

获取FileSystem实例
val fs = FileSystem.get(sparkContext.hadoopConfiguration)

然后您可以使用其方法在HDFS上执行您想要的操作。如果要移动文件,请查看重命名method