OSX - 无法将文件从本地文件系统复制到hdfs

时间:2013-10-01 08:02:55

标签: macos hadoop

我正在尝试将文件从本地文件系统复制到HDFS,并且它会抛出一个错误,指示该文件只能复制到0个节点而不是1个。

ckharide-mac:bin hadoop$ ./hadoop dfs -copyFromLocal /tmp/wcinput /user/hadoop/app/input
13/10/01 13:25:05 WARN hdfs.DFSClient: DataStreamer Exception: org.apache.hadoop.ipc.RemoteException: java.io.IOException: File /user/hadoop/app/input/LICENSE.txt could only be replicated to 0 nodes, instead of 1
    at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.getAdditionalBlock(FSNamesystem.java:1920)
    at org.apache.hadoop.hdfs.server.namenode.NameNode.addBlock(NameNode.java:783)
    at sun.reflect.GeneratedMethodAccessor6.invoke(Unknown Source)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
    at java.lang.reflect.Method.invoke(Method.java:597)
    at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:587)
    at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1432)
    at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1428)
    at java.security.AccessController.doPrivileged(Native Method)
    at javax.security.auth.Subject.doAs(Subject.java:396)
    at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1190)
    at org.apache.hadoop.ipc.Server$Handler.run(Server.java:1426)

我能够创建目录但复制文件不起作用。我已经尝试重新格式化名称节点并停止/启动hadoop服务仍然存在问题。

任何帮助,请感谢。

3 个答案:

答案 0 :(得分:1)

请确保您的DataNode正常运行。如果它们正在运行,它们可以与NameNode通信。

另外,请确保您有足够的空间将文件存储在HDFS中。

答案 1 :(得分:1)

你可以做的一些事情:

  • 重新格式化:$HADOOP_HOME/bin/hadoop namenode -format
  • 检查系统偏好设置 - >分享 - >激活远程登录?
  • 重启hadoop $HADOOP_HOME/bin/stop-all.sh,然后$HADOOP_HOME/bin/start-all.sh

前几天我在Mac上遇到了同样的问题,上面的步骤至少帮助了我......

答案 2 :(得分:1)

感谢修复它,HDFS上没有任何空间,只有当我们将文件从本地文件系统移动到HDFS时才能识别。有一次,我说我做了一个格式,并遵循hadopp服务的开始,它的工作。