我正在尝试将使用ami 3.x的传统mapreduce管道迁移到ami 4.x.它目前有bash脚本作为引导的一部分,其中一个调用hadoop fs-get s3n://somefile ~/otherfile
。这在我当前的迁移尝试中失败了ami 4.x.并且添加ls /home/hadoop/bin
脚本显示目录/home/hadoop/bin
不存在,因此二进制/home/hadoop/bin/hadoop
当然不存在。是否需要配置以确保hadoop
二进制文件存在?我似乎无法在文档中找到任何明显的内容。
答案 0 :(得分:0)
文件系统布局在3.x和4.x之间发生了很大的变化。可以在此处找到3.x和4.x之间的差异以及迁移说明:http://docs.aws.amazon.com/ElasticMapReduce/latest/ReleaseGuide/emr-4.1.0/emr-release-differences.html
解决问题的简短答案是你应该在引导操作中使用“aws s3 cp”而不是“hadoop fs-get”,因为直到在4.x +上运行引导操作之后才安装Hadoop。