运行MapReduce作业时获取应用程序ID

时间:2014-04-29 19:04:15

标签: mapreduce yarn hadoop2

有没有办法在运行时获取应用程序ID - 例如 - 带有yarn命令的 wordcount 示例?

我希望使用yarn命令从另一个进程启动作业,并通过YARN REST API监视作业的状态。

(使用Hadoop 2.4.0)

2 个答案:

答案 0 :(得分:3)

您可以使用yarn application -list命令获取所有应用程序的列表。

具体来说,如果要获取当前处于RUNNING状态的所有应用程序的列表,可以执行以下命令:

yarn application -list -appStates RUNNING

如果您已经知道应用程序ID,则可以使用以下命令查询应用程序的状态:

yarn application -status <application ID>

例如

yarn application -status application_1448359154956_0001

我收到以下申请报告(在这种情况下,申请人是KILLED用户):

Application Report :
Application-Id : application_1448359154956_0001
Application-Name : distcp
Application-Type : MAPREDUCE
User : mballur
Queue : default
Start-Time : 1448359237581
Finish-Time : 1448359419592
Progress : 100%
State : KILLED
Final-State : KILLED
Tracking-URL : http://mballur.fareast.corp.microsoft.com:8088/cluster/ap
p/application_1448359154956_0001
RPC Port : -1
AM Host : N/A
Aggregate Resource Allocation : 1652876 MB-seconds, 1337 vcore-seconds
Log Aggregation Status : NOT_START
Diagnostics : Application killed by user.

您可以解析此输出以获取应用程序的StateProgress

答案 1 :(得分:-3)

结帐http://hadoop.apache.org/docs/r2.4.0/api/org/apache/hadoop/yarn/client/api/YarnClient.html。应该有一些东西可以获得你需要的应用程序ID。