我正在尝试使用spark scala将所有文件从目录移动到HDFS中的另一个目录。总之,我需要找到以编程方式使用hadoop fs -mv命令的方法。因为我是hadoop的新手,如果有人可以帮忙的话会很棒。
答案 0 :(得分:1)
要在HDFS上执行操作,您只需要通过
获取FileSystem实例val fs = FileSystem.get(sparkContext.hadoopConfiguration)
然后您可以使用其方法在HDFS上执行您想要的操作。如果要移动文件,请查看重命名method
。