hadoop命令用于拆分HDFS上的文件

时间:2017-07-26 16:37:12

标签: file hadoop split hdfs

我在hdfs上有一个大小为11 GB的文件。我想将它分成1 gb的多个文件。 我怎样才能做到这一点?我的hadoop版本是2.7.3

1 个答案:

答案 0 :(得分:0)

如果你有火花,请尝试以下 -

下面的示例将输入文件拆分为2个文件:

spark-shell

scala> sc.textFile("/xyz-path/input-file",2).saveAsTextFile("/xyz-path/output-file")