Hadoop纱线被困在运行工作Ubuntu

时间:2017-12-04 04:42:01

标签: linux hadoop amazon-ec2 yarn

我试图在一个简单的任务上在ec2 ubuntu机器上运行单模伪分布式模式hadoop。但是我的程序停留在运行的工作上。我在这里附上我的linux屏幕和Resourcemanager页面。感谢任何想法。感谢。

Add1:我发现的另一件事是当我输入jps时,NodeManager消失了(我第一次输入jps但稍后消失了)

Add2:我检查了nodemanager日志并注意到由于不满足最小分配而关闭它,尽管我在yarn-site.xml中将调度程序最小mb更改为128并将vcore更改为1

linux screenshot

screenshot

img

1 个答案:

答案 0 :(得分:0)

最后解决了我上面的问题。

  1. 在上面的问题陈述中添加了详细信息,我后来发现我的节点管理器没有很好地启动(第一次输入类型jps,节点管理器在那里如附图所示。但是,它在那之后几秒钟就消失了。我多次发现这种类型的jps。)
  2. 我检查了节点管理器日志,发现错误"不满足最小分配,向NodeManager发送SHUTDOWN信号"
  3. 我在互联网上搜索并发现解决方案是将以下属性添加到yarn-site.xml文件
  4. yarn.nodemanager.resource.memory-MB

    值为1024

    yarn.nodemanager.resource.cpu-vcores

    值为1

    enter image description here

    1. 然后重启start-dfs.sh并启动-yarn.sh。如果您进入主机名:8088,您会看到内存总数总vcores 总计现在应该大于0并且您可以运行应用程序
    2. enter image description here

      PS:我的应用程序停留在地图0%并且最初减少0%。然后我只需将1024更改为4096,上面的1到2。然后我可以在ec2实例上成功运行map reduce程序(单节点伪分布式)