无法查看yarn-resource-manager的日志

时间:2017-04-03 13:46:10

标签: hadoop apache-spark yarn analytics-for-apache-hdp

我尝试了各种命令,我仍然在查看纱线日志时遇到问题,以下是我查看日志时所遵循的步骤

[root@iop-rm1 /]# yarn application -list

17/04/03 13:15:21 INFO client.RMProxy: Connecting to ResourceManager at iop-rm1.qatc/172.18.0.4:8032

Total number of applications (application-types: [] and states: [SUBMITTED, ACCEPTED, RUNNING]):1

            Application-Id      Application-Name        Application-Type          User       Queue               State         Final-State         Progress                        Tracking-URL
  application_1491225022815_0002      paxi                 SPARK                 paxata     default              ACCEPTED         UNDEFINED              0%                                 N/A

当我查看纱线日志时,它显示为

[root@iop-rm1 /]# yarn logs -applicationId application_1491222823231_0001

17/04/03 12:48:57 INFO client.RMProxy: Connecting to ResourceManager at iop-rm1.qatc/172.18.0.4:8032

/tmp/logs/root/logs/application_1491222823231_0001 does not exist.

Log aggregation has not completed or is not enabled.

我还在core-site.xml文件中启用了日志聚合

<name>yarn.log-aggregation-enable</name>

<value>true</value>

我为日志创建了不存在的路径,但我无法看到纱线日志

有没有办法查看纱线原木?

2 个答案:

答案 0 :(得分:2)

您无法查看尚未 FINISHED 的YARN应用的聚合日志。

来自yarn.log-aggregation-enable财产的description

  

日志聚合收集每个容器的日志并移动这些日志   到yarn.nodemanager.remote-app-log-dir中配置的目录   只有完成后

一旦应用程序完成,您可以尝试使用相同的命令yarn logs -applicationId <application ID>来查看日志。

要在作业 RUNNING 时查看日志,请使用ResourceManger Web界面。它将在http://ResourceManager_IP_Address:8088/中提供。

PS:您应该在yarn-site.xml中添加日志聚合的属性。

答案 1 :(得分:0)

可能您忘记重新启动群集以启用日志聚合。