我一直在尝试使用Spark SQL,我使用了以下导入:
import org.apache.spark.sql.SQLContext
但它正在创建错误:
对象SQLContext不是包org.apache.spark.sql
的成员
我使用SBT作为构建工具。 sbt文件的内容如下:
name := "stream-demo"
version := "1.0"
scalaVersion := "2.11.7"
val sparkVersion = "2.1.0"
libraryDependencies ++= Seq(
"org.apache.spark" %% "spark-core" % sparkVersion,
"org.apache.spark" %% "spark-sql" % sparkVersion,
"org.apache.spark" %% "spark-streaming" % sparkVersion)
答案 0 :(得分:0)
问题在于,用于编译代码的环境不刷新自身并加载spark-sql
模块。
请离开你的sbt会话并重新开始。
您还可以在reload
会话中执行sbt
(因此您不会破坏JVM sbt运行,因此可以更快地重新加载)。