Question

我正在尝试使用TDCH连接器从hive表导出到teradata，我得到的错误是错误的： -

15/05/07 08:01:03 INFO tool.ConnectorExportTool: java.lang.NoClassDefFoundError: org/apache/hadoop/hive/metastore/api/MetaException
            at java.lang.Class.forName0(Native Method)
            at java.lang.Class.forName(Class.java:190)
            at com.teradata.connector.common.tool.ConnectorJobRunner.runJob(ConnectorJobRunner.java:81)
            at com.teradata.connector.common.tool.ConnectorExportTool.run(ConnectorExportTool.java:61)
            at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:70)
            at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:84)
            at com.teradata.hadoop.tool.TeradataExportTool.main(TeradataExportTool.java:24)
            at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
            at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
            at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
            at java.lang.reflect.Method.invoke(Method.java:606)
            at org.apache.hadoop.util.RunJar.run(RunJar.java:221)
            at org.apache.hadoop.util.RunJar.main(RunJar.java:136)
    Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.hive.metastore.api.MetaException
            at java.net.URLClassLoader$1.run(URLClassLoader.java:366)
            at java.net.URLClassLoader$1.run(URLClassLoader.java:355)
            at java.security.AccessController.doPrivileged(Native Method)
            at java.net.URLClassLoader.findClass(URLClassLoader.java:354)
            at java.lang.ClassLoader.loadClass(ClassLoader.java:425)
            at java.lang.ClassLoader.loadClass(ClassLoader.java:358)
            ... 13 more

我从错误中了解到hive-metastore jar缺失。但它已经存在于hive / lib文件夹中

 hive-metastore.jar -> hive-metastore-0.9.0.jar

路径中已存在：/usr/hdp/2.2.4.2-2/hive/lib

Answer 1

问题是org/apache/hadoop/hive/metastore/api/MetaException类无法使用java runtime类。你能确保Jar有效runtime classpath。

很少尝试可以尝试通过-cp显式地将类路径传递给jvm，或者你可以尝试将jar放在启动目录中以确保其存在。

Answer 2

您必须定义环境变量LIB_JARS和HADOOP_CLASSPATH。您可以将环境变量LIB_JARS与参数-libjars

一起使用

您可以在https://developer.teradata.com/sites/all/files/Teradata%20Connector%20for%20Hadoop%20Tutorial%20v1%200%20final.pdf下找到示例。

根据自述文件，以下罐子是必需的：

    Hive Job(version 0.11.0 as example):
         a) hive-metastore-0.11.0.jar
         b) hive-exec-0.11.0.jar
         c) hive-cli-0.11.0.jar
         d) libthrift-0.9.0.jar
         e) libfb303-0.9.0.jar
         f) jdo2-api-2.3-ec.jar
         g) slf4j-api-1.6.1.jar
         h) datanucleus-core-3.0.9.jar
         i) datanucleus-rdbms-3.0.8.jar
         j) commons-dbcp-1.4.jar
         k) commons-pool-1.5.4.jar
         l) antlr-runtime-3.4.jar
         m) datanucleus-api-jdo-3.0.7.jar

    HCatalog Job:
         a) above Hive required jar files
         b) hcatalog-core-0.11.0.jar

Answer 3

有时您可能会将所有jar文件都放在“ lib”文件夹中，但是由于某些原因，Oozie可能不会仅仅因为job.properties或coordinator.properties中有错字而正在读取它。仔细检查您的属性文件。

“ job.properties”文件应如下所示-

oozie.use.system.libpath=true
oozie.wf.application.path=${nameNode}/apps/myapp/workflow/

“ coordinator.properties”文件应如下所示-

oozie.use.system.libpath=true
oozie.coord.application.path=${nameNode}/apps/myapp/workflow/

，您的带有jar的“ lib”文件夹应位于-

/apps/myapp/workflow/lib

未找到teradata从蜂巢到teradata类的出口

3 个答案: