在ami 4.x中缺少/ home / hadoop / bin / hadoop

时间:2016-09-24 01:22:32

标签: amazon-emr ami

我正在尝试将使用ami 3.x的传统mapreduce管道迁移到ami 4.x.它目前有bash脚本作为引导的一部分,其中一个调用hadoop fs-get s3n://somefile ~/otherfile。这在我当前的迁移尝试中失败了ami 4.x.并且添加ls /home/hadoop/bin脚本显示目录/home/hadoop/bin不存在,因此二进制/home/hadoop/bin/hadoop当然不存在。是否需要配置以确保hadoop二进制文件存在?我似乎无法在文档中找到任何明显的内容。

1 个答案:

答案 0 :(得分:0)

文件系统布局在3.x和4.x之间发生了很大的变化。可以在此处找到3.x和4.x之间的差异以及迁移说明:http://docs.aws.amazon.com/ElasticMapReduce/latest/ReleaseGuide/emr-4.1.0/emr-release-differences.html

解决问题的简短答案是你应该在引导操作中使用“aws s3 cp”而不是“hadoop fs-get”,因为直到在4.x +上运行引导操作之后才安装Hadoop。