如何使用gedit打开HDFS输出文件?

时间:2014-05-14 11:38:39

标签: hadoop hdfs gedit ubuntu-14.04

我已经在我的系统中成功安装并执行了mapreduce程序(Ubuntu 14.04)。

我可以看到输出文件为

hadoopuser@arul-PC:/usr/local/hadoop$ bin/hadoop dfs -ls /user/hadoopuser/MapReduceSample-output
Found 3 items
-rw-r--r--   1 hadoopuser supergroup          0 2014-07-09 16:10 /user/hadoopuser/MapReduceSample-output/_SUCCESS
drwxr-xr-x   - hadoopuser supergroup          0 2014-07-09 16:10 /user/hadoopuser/MapReduceSample-output/_logs
-rw-r--r--   1 hadoopuser supergroup     880838 2014-07-09 16:10 /user/hadoopuser/MapReduceSample-output/part-00000

我可以使用以下命令在终端上打开它,

hadoopuser@arul-PC:/usr/local/hadoop$ bin/hadoop dfs -cat /user/hadoopuser/MapReduceSample-output/part-00000

我可以在终端上看到输出文件,但我看不到完整的结果,因为我的输出有大量的行。

所以我想在geditnano上打开它。

需要解决方案。

4 个答案:

答案 0 :(得分:3)

您也可以使用getmerge将HDFS文件复制到本地系统。

hadoopuser@arul-PC:/usr/local/hadoop$ bin/hadoop dfs -getmerge /user/hadoopuser/MapReduceSample-output/part-00000 /home/arul/MROutput

hadoop dfs -getmerge /path/to/HDFS /path/to/save

答案 1 :(得分:1)

而不是寻找插件。您可以在eclipse中从$ HADOOP_INSTALL / bin添加jar文件,编译器问题必须消失。

答案 2 :(得分:1)

您无法从本地计算机(系统用户)访问HDFS文件,因此您无法使用gedit打开HDFS文件。

要在gedit中打开,您必须复制到本地计算机。

为此,打开终端( Ctrl + Alt + T )并使用copyToLocal Hadoop Shell命令将输出文件复制到本地计算机。

执行以下操作,

hadoopuser@arul-PC:/usr/local/hadoop$ sudo bin/hadoop dfs -copyToLocal /user/hadoopuser/MapReduceSample-output/part-00000 /home/arul/Downloads/

现在您可以使用gedit打开输出文件,如下所示,

$ sudo gedit /home/arul/Downloads/part-00000

注意:

  1. 我的 HDFS 用户名为hadoopuser
  2. 您可以将文件从 HDFS 移动到本地计算机。 Hadoop Shell命令 fs -mv允许移动不同的HDFS位置。
  3. 了解更多 Hadoop Shell Commands(click here)
  4. 更新Y-Prithvi发布的另一个选项

    您也可以使用getmerge将HDFS文件复制到本地系统。

    hadoopuser@arul-PC:/usr/local/hadoop$ bin/hadoop dfs -getmerge /user/hadoopuser/MapReduceSample-output/part-00000 /home/arul/MROutput
    
    hadoop dfs -getmerge /path/to/HDFS /path/to/save
    

答案 3 :(得分:0)

Hadoop开发的Eclipse安装

this应该提供帮助