Question

我最近将我的群集更新到CDH 5.7，我正在尝试在Spark上运行Hive查询处理。

我已将Hive客户端配置为在Cloudera Manager的Spark服务上使用Spark执行引擎和Hive Dependency。

通过HUE，我只是运行一个简单的选择查询但似乎总是得到这个错误：处理语句时出错：FAILED：执行错误，从org.apache.hadoop.hive.ql返回代码3 .exec.spark.SparkTask

以下是相同的日志：

ERROR operation.Operation: Error running hive query: 
org.apache.hive.service.cli.HiveSQLException: Error while processing statement: FAILED: Execution Error, return code 3 from org.apache.hadoop.hive.ql.exec.spark.SparkTask
    at org.apache.hive.service.cli.operation.Operation.toSQLException(Operation.java:374)
    at org.apache.hive.service.cli.operation.SQLOperation.runQuery(SQLOperation.java:180)
    at org.apache.hive.service.cli.operation.SQLOperation.access$100(SQLOperation.java:72)
    at org.apache.hive.service.cli.operation.SQLOperation$2$1.run(SQLOperation.java:232)
    at java.security.AccessController.doPrivileged(Native Method)
    at javax.security.auth.Subject.doAs(Subject.java:415)
    at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1693)
    at org.apache.hive.service.cli.operation.SQLOperation$2.run(SQLOperation.java:245)
    at java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:471)
    at java.util.concurrent.FutureTask.run(FutureTask.java:262)
    at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1145)
    at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:615)
    at java.lang.Thread.run(Thread.java:745)

任何帮助解决这个问题都会很棒！

Answer 1

此问题是由于开放的JIRA：https://issues.apache.org/jira/browse/HIVE-11519。你应该使用另一个序列化工具..

Answer 2

Execution Error, return code 3 from org.apache.hadoop.hive.ql.exec.spark.SparkTask

不是真正的错误消息，您最好使用hive cli打开DEBUG信息，例如

bin/hive --hiveconf hive.root.logger=DEBUG,console

你会得到更详细的日志，例如，这些是我以前得到的：

16/03/17 13:55:43 [fxxxxxxxxxxxxxxxx4 main]: INFO exec.SerializationUtilities: Serializing MapWork using kryo
java.lang.NoSuchMethodError: com.fasterxml.jackson.module.scala.deser.BigDecimalDeserializer$.handledType()Ljava/lang/Class;

这是由一些依赖性冲突引起的，有关详细信息，请参阅https://issues.apache.org/jira/browse/HIVE-13301。

Hive on Spark CDH5.7执行错误

2 个答案: