亚马逊ec2 t2.micro上的Hadoop 2.x.

时间:2015-04-13 07:52:21

标签: hadoop amazon-ec2 yarn hadoop2

我正在尝试在伪分布式模式下在Amazon EC2 t2.micro实例(Free one,只有1GB RAM)上安装和配置Hadoop 2.6。 我可以配置并启动所有守护进程(即Namenode,Datanode,ResourceManager,NodeManager)。但是当我尝试运行mapreduce wordcount示例时,它失败了。 我不知道它是否由于内存不足而失败(因为t2.micro只有1GB的内存,其中一部分被主机操作系统占用,在我的情况下是Ubuntu)。或者它可能是其他原因吗? 我正在使用默认内存设置。如果我可以将所有内容调整到最小的内存设置,它会解决问题吗?可以分配给容器的mb中的最小内存是多少。 非常感谢伙计们。如果你能提供一些信息,我将不胜感激。

1 个答案:

答案 0 :(得分:0)

在没有调整任何内存设置的情况下,我可以运行带有1个映射器和1个reducer的pi示例,有时只在免费层t2.micro实例上运行,它大部分时间都会失败。 通过使用内存优化的r3.large实例和15GB RAM,一切都很完美。所有工作都顺利完成。