在Hive驱动程序连接线上的Hadoop中由ClassNotFoundException引起的NoClassDefFoundError?

时间:2014-01-02 22:13:34

标签: java jdbc hadoop hive classnotfoundexception

通常我从谷歌搜索开始寻找解决方案,但此错误似乎以前没有发生过。

Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/hadoop/util/Shell
    at org.apache.hadoop.hive.conf.HiveConf$ConfVars.findHadoopBinary(HiveConf.java:906)
    at org.apache.hadoop.hive.conf.HiveConf$ConfVars.<clinit>(HiveConf.java:237)
    at org.apache.hive.jdbc.HiveConnection.isHttpTransportMode(HiveConnection.java:221)
    at org.apache.hive.jdbc.HiveConnection.openTransport(HiveConnection.java:138)
    at org.apache.hive.jdbc.HiveConnection.<init>(HiveConnection.java:123)
    at org.apache.hive.jdbc.HiveDriver.connect(HiveDriver.java:105)
    at java.sql.DriverManager.getConnection(DriverManager.java:571)
    at java.sql.DriverManager.getConnection(DriverManager.java:215)
    at com.merck.ghh.ingestion.HiveTableSetup.tableSetup(HiveTableSetup.java:31)
    at com.merck.ghh.ingestion.HiveTableSetup.main(HiveTableSetup.java:546)
Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.util.Shell
    at java.net.URLClassLoader$1.run(URLClassLoader.java:366)
    at java.net.URLClassLoader$1.run(URLClassLoader.java:355)
    at java.security.AccessController.doPrivileged(Native Method)
    at java.net.URLClassLoader.findClass(URLClassLoader.java:354)
    at java.lang.ClassLoader.loadClass(ClassLoader.java:425)
    at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:308)
    at java.lang.ClassLoader.loadClass(ClassLoader.java:358)
    ... 10 more

以下代码导致此错误,特别是在连接声明行:

try {     
Class.forName(driverName);
     Connection connection = DriverManager.getConnection("jdbc:hive2://localhost:10000/default", "hive", "");
     Statement statement = connection.createStatement();
} catch (ClassNotFoundException exception) {
      exception.printStackTrace();
}

其他questions似乎指出这与依赖关系中不包括hadoop-core有关,但Hadoop 2.X中似乎不存在hadoop-core。我特意在Hadoop 2.1.0.2.0.5.0-67中使用Hive 0.12.0。在此错误之前,我遇到了问题,因为我的Hive依赖项已经在某些时候被破坏了,但我把它们放回去了,接下来发生了这个错误。我想知道它是不是像忘记依赖一样简单,但我找不到可能缺少的依赖。

非常感谢任何帮助。

2 个答案:

答案 0 :(得分:2)

Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.util.Shell  

当您使用Hadoop 2.X.时,您需要下载hadoop-common-2.1.0-beta.jar
 hadoop-common-2.0.0-cdh4.4.0.jar和类路径以避免ClassNotFoundException

你刚才使用了hadoop-core-0.20.2-737.jar

更多访问http://grepcode.com/

答案 1 :(得分:0)

尝试将JDBC连接器jar复制到$ HIVE_HOME / lib /文件夹中。我遇到了类似的问题,复制jar文件对我有用。