将zip文件从一个服务器移动到hdfs?

时间:2015-10-21 08:49:53

标签: hadoop hdfs flume

如果我使用flumessh,将文件从一个Linux框移动到HDFS的最佳方法是什么?

SSH命令:

cat kali.txt | ssh user@hadoopdatanode.com "hdfs dfs -put - /data/kali.txt"

只有SSH的问题是我需要在每次需要检查如何通过密码而无需身份验证时提及密码。

flume可以从一台服务器直接将文件移动到HDFS吗?

3 个答案:

答案 0 :(得分:0)

也许您在python中创建一个脚本,例如为您完成工作

答案 1 :(得分:0)

您可以在具有这些文件的Linux机器上安装hadoop客户端。然后你可以" hdfs dfs -put"您的数据直接从该框到hadoop集群。

答案 2 :(得分:0)

也许你可以制作无密码的ssh,然后在不输入密码的情况下传输文件