EMR hadoop错误ClassNotFoundException

时间:2013-07-23 03:46:16

标签: hadoop amazon-web-services amazon emr

导致此错误的原因可能是什么。当我在我的本地计算机上尝试时它可以正常工作,但是当我尝试在AWS EMR中部署它时,我得到了这个错误。感谢

java.lang.RuntimeException: java.lang.RuntimeException: java.lang.ClassNotFoundException: ArticleLess$Reduce
    at org.apache.hadoop.conf.Configuration.getClass(Configuration.java:899)
    at org.apache.hadoop.mapred.JobConf.getCombinerClass(JobConf.java:1028)
    at org.apache.hadoop.mapred.Task$CombinerRunner.create(Task.java:1380)
    at org.apache.hadoop.mapred.MapTask$MapOutputBuffer.<init>(MapTask.java:997)
    at org.apache.hadoop.mapred.MapTask.runOldMapper(MapTask.java:433)
    at org.apache.hadoop.mapred.MapTask.run(MapTask.java:377)
    at org.apache.hadoop.mapred.Child$4.run(Child.java:255)
    at java.security.AccessController.doPrivileged(Native Method)
    at javax.security.auth.Subject.doAs(Subject.java:396)
    at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1059)
    at org.apache.hadoop.mapred.Child.main(Child.java:249)
Caused by: java.lang.RuntimeException: java.lang.ClassNotFoundException: ArticleLess$Reduce
    at org.apache.hadoop.conf.Configuration.getClass(Configuration.java:867)
    at org.apache.hadoop.conf.Configuration.getClass(Configuration.java:891)
    ... 10 more
Caused by: java.lang.ClassNotFoundException: ArticleLess$Reduce
    at java.net.URLClassLoader$1.run(URLClassLoader.java:202)
    at java.security.AccessController.doPrivileged(Native Method)
    at java.net.URLClassLoader.findClass(URLClassLoader.java:190)
    at java.lang.ClassLoader.loadClass(ClassLoader.java:306)
    at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:301)
    at java.lang.ClassLoader.loadClass(ClassLoader.java:247)
    at java.lang.Class.forName0(Native Method)
    at java.lang.Class.forName(Class.java:247)
    at org.apache.hadoop.conf.Configuration.getClassByName(Configuration.java:820)
    at org.apache.hadoop.conf.Configuration.getClass(Configuration.java:865)
    ... 11 more

1 个答案:

答案 0 :(得分:0)

在本地机器上编译/运行期间,您使用了类#34; ArticleLess&#34;,这在EMR中不存在

我在google上搜索过,但是我找不到这个课程。所以,我认为它是你代码中的一个类(不是开源库)。

在代码中搜索课程。如果您使用* .jar文件,请复制&amp;将它们重命名为* .zip,在里面搜索。

找到类后,必须将类/整个jar部署到EMR。你如何做到这一点取决于你如何开始工作(你没有描述)。