Spark应用程序继续运行并且似乎正在挂起 - org.apache.spark.sql.hive.thriftserver.HiveThriftServer2

时间:2017-04-20 23:48:08

标签: hadoop apache-spark yarn ambari

我在Hadoop集群中使用HDFS 2.7.3和Spark2 2.0.0。当我启动Spark2 Thrift Server时,它成功启动但是从Hive用户自动开始运行一个作业,它似乎永远挂起。如果我手动终止该作业,它将再次使用新的applicationId启动新作业。

Before starting the Thrift server After starting the Thrift server org.apache.spark.sql.hive.thriftserver.HiveThriftServer2 job hangs

但如果我停止使用Spark2 Thrift服务器,它就会终止这项工作。你能帮我理解这个问题吗?

提前致谢。

1 个答案:

答案 0 :(得分:0)

我遇到了和你一样的问题,spark 2.0不稳定的thriftserver模块,最好升级到spark 2.1