scala工作表抛出错误与火花

时间:2017-11-04 09:41:36

标签: scala apache-spark intellij-idea

我正在尝试使用 Intellij 中的 scala工作表运行 spark 测试。但是在sparksessionsparkcontext的实例化行中,工作表会抛出以下错误

  
    

java.lang.ClassNotFoundException:org.apache.spark.serializer.JavaSerializer         在java.net.URLClassLoader.findClass(s​​cala tutorial.sc:377)         在java.lang.ClassLoader.loadClass(s​​cala tutorial.sc:420)         在sun.misc.Launcher $ AppClassLoader.loadClass(s​​cala tutorial.sc:327)         在java.lang.ClassLoader.loadClass(s​​cala tutorial.sc:353)         在java.lang.Class.forName0(scala tutorial.sc)         在java.lang.Class.forName(scala tutorial.sc:344)         在org.apache.spark.util.Utils $ .classForName(scala tutorial.sc:225)         在org.apache.spark.SparkEnv $ .instantiateClass $ 1(scala tutorial.sc:256)         在org.apache.spark.SparkEnv $ .instantiateClassFromConf $ 1(scala tutorial.sc:277)         在org.apache.spark.SparkEnv $ .create(scala tutorial.sc:280)         在org.apache.spark.SparkEnv $ .createDriverEnv(scala tutorial.sc:170)         在org.apache.spark.SparkContext.createSparkEnv(scala tutorial.sc:253)         在org.apache.spark.SparkContext。(scala tutorial.sc:428)         在org.apache.spark.SparkContext $ .getOrCreate(scala tutorial.sc:2316)         在org.apache.spark.sql.SparkSession $ Builder $$ anonfun $ 8.apply(scala tutorial.sc:827)         在org.apache.spark.sql.SparkSession $ Builder $$ anonfun $ 8.apply(scala tutorial.sc:819)         在#worksheet#。#worksheet#(scala tutorial.sc:116)

  

我尝试取消选中Run worksheet in the compiler process Worksheet Scala选项下的 <dependency> <groupId>org.scala-lang</groupId> <artifactId>scala-library</artifactId> <version>2.11.0</version> </dependency> <dependency> <groupId>org.apache.spark</groupId> <artifactId>spark-core_2.11</artifactId> <version>2.1.1</version> </dependency> <dependency> <groupId>org.apache.spark</groupId> <artifactId>spark-streaming_2.11</artifactId> <version>2.1.1</version> </dependency> <dependency> <groupId>org.apache.spark</groupId> <artifactId>spark-sql_2.11</artifactId> <version>2.1.1</version> </dependency> <!-- https://mvnrepository.com/artifact/com.holdenkarau/spark-testing-base_2.10 --> <dependency> <groupId>com.holdenkarau</groupId> <artifactId>spark-testing-base_2.11</artifactId> <version>2.1.0_0.6.0</version> </dependency> - (BOOL)control:(NSControl *)control textView:(NSTextView *)textView doCommandBySelector:(SEL)commandSelector;选项,该选项不会引发错误,但甚至无法编译。

这是一个maven项目,以下是我的依赖项

- (void)deleteBackward;

有人可以帮我解决这个问题吗?

1 个答案:

答案 0 :(得分:3)

以某种方式取消选中Use external compile server for scala选项,该选项位于Scala Compile Server设置下。

所以除了以下设置。 enter image description here

我必须启用以下设置 enter image description here

我希望这对每个和我有同样问题的人都有帮助。