从本地文件系统复制到hadoop时,“没有这样的文件或目录”

时间:2018-04-22 20:12:11

标签: hadoop windows-10 hdfs hadoop2

我在Windows 10上安装了本地单节点Hadoop,它可以正常运行。

不幸的是,当我尝试从本地文件系统将文件复制到Hadoop时,它发誓:

λ hadoop fs -copyFromLocal ../my_models/*.model hdfs://localhost/tmp
copyFromLocal: `../my_models/aaa.model': No such file or directory
copyFromLocal: `../my_models/bbb.model': No such file or directory
copyFromLocal: `../my_models/ccc.model': No such file or directory
copyFromLocal: `../my_models/ddd.model': No such file or directory

如您所见,它列出了本地目录中的所有模型文件,证明它可以看到它们。不幸的是,它并没有复制它们。

同时我可以创建目录

λ hadoop fs -mkdir -p hdfs://localhost/tmp/

λ hadoop fs -ls hdfs://localhost/
Found 1 items
drwxr-xr-x   - dims supergroup          0 2018-04-22 22:16 hdfs://localhost/tmp

可能是什么问题?

2 个答案:

答案 0 :(得分:0)

您可能会收到此错误,因为:

  1. 无法使用星号(*)指定包含要复制的文件的文件格式。你只能提到文件或目录的路径。(在你的情况下这是可能的原因)

  2. 您从LFS复制的文件夹位于根目录中。或其他一些目录。哪个HDFS用户无法访问。

  3. 尝试将cd命令作为HDFS用户使用到存在文件的同一文件夹中,如果 permission denied 错误仍然存​​在,则必须将文件复制到{{1} }文件夹。

答案 1 :(得分:0)

为什么不使用for循环来实现如下所示 对于aaa.model中的文件bbb.model ccc.model; do hadoop fs -copyFromLocal ../my_models/$file hdfs:// localhost / tmp;完成