如何避免spark-submit缓存

Question

火花提交工作被放入CDH，有一个奇怪的事情。它总是抱怨一个查询（下面的XXX），但是这个查询不在当前应用程序中，它是之前使用过的旧查询和删除。看起来某处有一些缓存。

代码很简单，var extract = sqlContext.sql（“.....”）

如何解决？谢谢。

16/11/13 22:12:29 INFO DAGScheduler: Job 1 finished: aggregate at InferSchema.scala:41, took 3.032230 s
Exception in thread "main" org.apache.spark.sql.AnalysisException: cannot resolve 'XXX' (string and boolean).;
        at org.apache.spark.sql.catalyst.analysis.package$AnalysisErrorAt.failAnalysis(package.scala:42)
        at org.apache.spark.sql.catalyst.analysis.CheckAnalysis$$anonfun$checkAnalysis$1$$anonfun$apply$2.applyOrElse(CheckAnalysis.scala:61)
        at org.apache.spark.sql.catalyst.analysis.CheckAnalysis$$anonfun$checkAnalysis$1$$anonfun$apply$2.applyOrElse(CheckAnalysis.scala:53)
        at org.apache.spark.sql.catalyst.trees.TreeNode$$anonfun$transformUp$1.apply(TreeNode.scala:293)

感谢。

Answer 1

您可能需要删除旧jar并重建它以便执行。