当我尝试从HBase主节点运行ExportSnapshot时,我收到了令人困惑的ClassNotFoundException。 hbase shell
和其他命令工作正常,我的群集完全正常运行。
这感觉就像是一个Classpath问题,但我不知道我错过了什么。
$ /usr/bin/hbase org.apache.hadoop.hbase.snapshot.ExportSnapshot -snapshot ambarismoketest-snapshot -copy-to hdfs://10.0.1.90/apps/hbase/data -mappers 16
SLF4J: Class path contains multiple SLF4J bindings.
SLF4J: Found binding in [jar:file:/usr/lib/hadoop/lib/slf4j-log4j12-1.7.5.jar!/org/slf4j/impl/StaticLoggerBinder.class]
SLF4J: Found binding in [jar:file:/usr/lib/zookeeper/lib/slf4j-log4j12-1.6.1.jar!/org/slf4j/impl/StaticLoggerBinder.class]
SLF4J: See http://www.slf4j.org/codes.html#multiple_bindings for an explanation.
2015-10-13 20:05:02,339 INFO [main] Configuration.deprecation: hadoop.native.lib is deprecated. Instead, use io.native.lib.available
2015-10-13 20:05:04,351 INFO [main] util.FSVisitor: No logs under directory:hdfs://cinco-de-nameservice/apps/hbase/data/.hbase-snapshot/impression_event_production_hbase-transfer-to-staging-20151013/WALs
Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/hadoop/mapreduce/Job
at org.apache.hadoop.hbase.snapshot.ExportSnapshot.runCopyJob(ExportSnapshot.java:529)
at org.apache.hadoop.hbase.snapshot.ExportSnapshot.run(ExportSnapshot.java:646)
at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:70)
at org.apache.hadoop.hbase.snapshot.ExportSnapshot.innerMain(ExportSnapshot.java:697)
at org.apache.hadoop.hbase.snapshot.ExportSnapshot.main(ExportSnapshot.java:701)
Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.mapreduce.Job
at java.net.URLClassLoader$1.run(URLClassLoader.java:366)
at java.net.URLClassLoader$1.run(URLClassLoader.java:355)
at java.security.AccessController.doPrivileged(Native Method)
at java.net.URLClassLoader.findClass(URLClassLoader.java:354)
at java.lang.ClassLoader.loadClass(ClassLoader.java:425)
at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:308)
at java.lang.ClassLoader.loadClass(ClassLoader.java:358)
... 5 more
答案 0 :(得分:1)
<强>问题强>
事实证明这是因为mapreduce2 JAR在类路径中不可用。类路径已正确设置,但我没有在该节点上安装mapreduce2客户端。 HBase的ExportSnapshot在将快照导出到另一个集群时显然依赖于那些客户端JAR,因为它写入了HDFS。
<强>修正强>
如果你使用Ambari:
<强>背景强>
这里有一张票https://issues.apache.org/jira/browse/HBASE-9687,标题为ClassNotFoundException is thrown when ExportSnapshot runs against hadoop cluster where HBase is not installed on the same node as resourcemanager
。标题意味着安装资源管理器是修复,这可能会起作用;然而,关键是你需要在类路径中使用hadoop mapreduce2 jar,你只需安装mapreduce2客户端即可。
对于我们来说,具体来说,我们的快照导出工作一天然后打破下一个原因是我们的HBase主人打开了我们b / c的另一个问题。我们的备份HBase master没有mapreduce2客户端JAR,但是原始的主要主人没有。