Question

我们正在运行火花流以从Kafka获取Feed。现在我们尝试使用Phoenix JDBC从HBASE中提取一些数据。当我在本地运行代码时运行良好而没有任何问题，但是当我使用yarn-cluster运行它时，它会抛出异常。

r'\b(?:[Uu][nN][Ii][Tt][Ee][Dd] [Ss][Tt][Aa][Tt][Ee][Ss]|US)\b'

以下是代码段：

Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.hbase.ipc.controller.ClientRpcControllerFactory
    at java.net.URLClassLoader$1.run(URLClassLoader.java:366)
    at java.net.URLClassLoader$1.run(URLClassLoader.java:355)
    at java.security.AccessController.doPrivileged(Native Method)
    at java.net.URLClassLoader.findClass(URLClassLoader.java:354)
    at java.lang.ClassLoader.loadClass(ClassLoader.java:425)
    at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:308)
    at java.lang.ClassLoader.loadClass(ClassLoader.java:358)
    at java.lang.Class.forName0(Native Method)
    at java.lang.Class.forName(Class.java:190)

添加的SBT依赖是

def check(arg0:String,arg1:String)
{
  val query = "query"

        Class.forName("org.apache.phoenix.jdbc.PhoenixDriver");
    var conn =  DriverManager.getConnection("jdbc:phoenix:IP:zkport:/znode");
        val statement = conn.createStatement()
        val resultSet = statement.executeQuery(query)
        var out="";
        while(resultSet.next())
        {
          out=resultSet.getString("..")
        }
}

我手动检查了缺少的类，它在phoenix-core jar中。纱线/火花抛出异常的原因是什么？在Apache Phoenix (4.3.1 and 4.4.0-HBase-0.98) on Spark 1.3.1 ClassNotFoundException报告了同样的问题，但我尝试将其添加为单独的类路径，但也不起作用。有人可以帮我解决这个问题吗？

Answer 1

将phoenix-core添加到classpath.txt工作。但这是一个奇怪的问题。

Apache phoenix 4.5.1 with spark 1.3.1 Classnotfoundexception

1 个答案: