YARN无法找到或加载主类org.apache.hadoop.mapreduce.v2.app.MRAppMaster

时间:2018-08-27 09:38:06

标签: hadoop hive mapreduce yarn

我的查询:我已经在ubantu上安装了蜂巢。我曾经在工作文件中对其进行过测试,但后来它开始出现错误。

  

插入test2值(1,“ Mahendra”);

我的配置单元错误:

  

查询ID = mahendra_20180827145546_86973630-5eff-4764-ade8-cfc3a8ce5c37
  职位总数= 3
  启动工作1之3
  编译时确定的reduce任务数:1
  为了更改减速器的平均负载(以字节为单位):
    设置hive.exec.reducers.bytes.per.reducer =
  为了限制减速器的最大数量:     设置hive.exec.reducers.max =   为了设置恒定数量的减速器:     设置mapreduce.job.reduces =   开始工作= job_1535360274908_0006,跟踪URL = http://mahendra-system:8088/proxy/application_1535360274908_0006/   杀死命令= /home/mahendra/HDEcho/hadoop-3.0.3/bin/mapred job -kill job_1535360274908_0006
  第1阶段的Hadoop作业信息:映射器数量:0;减速机数量:0
  2018-08-27 14:55:51,645第1阶段地图= 0%,减少= 0%   已结束Job = job_1535360274908_0006错误   工作期间出错,正在获取调试信息...
  失败:执行错误,从org.apache.hadoop.hive.ql.exec.mr.MapRedTask返回代码2   MapReduce工作启动:
  第一阶段:HDFS读取:0 HDFS写入:0失败   MapReduce花费的总CPU时间:0毫秒

我的毛线错误:

  

错误:找不到或加载主类org.apache.hadoop.mapreduce.v2.app.MRAppMaster

我的诊断学:

 Error: Could not find or load main class org.apache.hadoop.mapreduce.v2.app.MRAppMaster
Please check whether your etc/hadoop/mapred-site.xml contains the below configuration:
<property>
<name>yarn.app.mapreduce.am.env</name>
<value>HADOOP_MAPRED_HOME=${full path of your hadoop distribution directory}</value>
</property>
<property>
<name>mapreduce.map.env</name>
<value>HADOOP_MAPRED_HOME=${full path of your hadoop distribution directory}</value>
</property>
<property>
<name>mapreduce.reduce.env</name>
<value>HADOOP_MAPRED_HOME=${full path of your hadoop distribution directory}</value>
</property> 

我的MapRed-site.xml:

<configuration>
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
    <property>
        <name>mapreduce.application.classpath</name>
        <value>/home/mahendra/HDEcho/hadoop-3.0.3/share/hadoop/mapreduce/*:/home/mahendra/HDEcho/hadoop-3.0.3/share/hadoop/mapreduce/lib/*</value>
    </property>
<property>
<name>yarn.app.mapreduce.am.env</name>
<value>HADOOP_MAPRED_HOME=/home/mahendra/HDEcho/hadoop-3.0.3</value>
</property>
<property>
<name>mapreduce.map.env</name>
<value>HADOOP_MAPRED_HOME=/home/mahendra/HDEcho/hadoop-3.0.3</value>
</property>
<property>
<name>mapreduce.reduce.env</name>
<value>HADOOP_MAPRED_HOME=/home/mahendra/HDEcho/hadoop-3.0.3</value>
</property>
</configuration>

2 个答案:

答案 0 :(得分:1)

export YARN_HOME=$HADOOP_HOME      

在bashrc中为我工作

答案 1 :(得分:1)

我遇到了同样的问题(JAVA -1.8 291u ,Hadoop -2.8.0) 已解决 设置属性后 - yarn-site.xml 中的 YARN 应用程序类路径:

第一步:执行hadoop classpath。此命令显示要访问的路径列表 作为yarn-site.xml 中的值传递

第 2 步:编辑 yarn-site.xml 如下:

 <property>
    <name>yarn.application.classpath</name>
    <value>output from step1 </value>
 </property>

在触发 mapreduce 作业之前再次重启 Yarn。