Oozie Java Action:传递Hbase类路径

时间:2014-10-01 02:07:39

标签: java hadoop hbase oozie

我正在通过oozie java action运行测试hbase java程序。遇到以下错误:

Failing Oozie Launcher, Main class [HbaseTest], main() threw exception, org/apache/hadoop/hbase/HBaseConfiguration
java.lang.NoClassDefFoundError: org/apache/hadoop/hbase/HBaseConfiguration
at HbaseTest.main(HbaseTest.java:28)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
at java.lang.reflect.Method.invoke(Method.java:597)
at org.apache.oozie.action.hadoop.LauncherMapper.map(LauncherMapper.java:495)
at org.apache.hadoop.mapred.MapRunner.run(MapRunner.java:50)
at org.apache.hadoop.mapred.MapTask.runOldMapper(MapTask.java:417)
at org.apache.hadoop.mapred.MapTask.run(MapTask.java:332)
at org.apache.hadoop.mapred.Child$4.run(Child.java:268)
at java.security.AccessController.doPrivileged(Native Method)
at javax.security.auth.Subject.doAs(Subject.java:396)
at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1438)
at org.apache.hadoop.mapred.Child.main(Child.java:262)
Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.hbase.HBaseConfiguration
at java.net.URLClassLoader$1.run(URLClassLoader.java:202)
at java.security.AccessController.doPrivileged(Native Method)
at java.net.URLClassLoader.findClass(URLClassLoader.java:190)
at java.lang.ClassLoader.loadClass(ClassLoader.java:306)
at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:301)
at java.lang.ClassLoader.loadClass(ClassLoader.java:247)
... 14 more

程序从命令行正确运行:

java -cp `hbase classpath`  HbaseTest

有没有办法可以将'hbase classpath'的输出传递给oozie java动作。 我不想将hbase jar复制到工作流的lib目录,因为这将是一个维护开销。

以下是workflow.xml中的java操作:

    <java>
        <job-tracker>${jobTracker}</job-tracker>
        <name-node>${nameNode}</name-node>
        <configuration>
            <property>
                <name>mapred.job.queue.name</name>
                <value>${queueName}</value>
            </property>
        </configuration>
        <main-class>HbaseTest</main-class>
        <java-opts></java-opts>
        <arg>HELLO</arg>
    </java>

1 个答案:

答案 0 :(得分:3)

自Oozie 2.3起,您可以使用共享库:

  

Oozie支持工作流作业的作业和系统共享库。

     

共享库可以简化跨工作流应用程序的公共组件的部署和管理。

     

例如,如果工作流作业使用与Streaming,Pig&amp; amp; Har JARs文件,它不必将这些JAR文件捆绑在工作流应用程序li​​b / path中。

     

如果工作流作业使用共享库,Oozie将在类路径/ libpath中的库中包含所有JAR / SO文件,以用于其所有操作。

     

工作流作业可以使用作业属性oozie.libpath指定共享库路径。

     

通过将作业属性oozie.use.system.libpath设置为true,工作流作业可以使用系统共享库。

http://oozie.apache.org/docs/3.2.0-incubating/WorkflowFunctionalSpec.html#a17_HDFS_Share_Libraries_for_Workflow_Applications_since_Oozie_2.3

如何安装: http://oozie.apache.org/docs/4.0.0/DG_QuickStart.html#OozieShareLib