Scala外壳无法识别火花

时间:2018-09-12 20:58:57

标签: scala apache-spark

我正在尝试使用scala shell订阅kafka中的主题,下面是我为此执行的命令:

scala> val topic1 = spark.read.format(“ kafka”)。option(“ subscribe”,“ topic1”)。option(“ kafka.bootstrap.servers”,“ ip:port,ip2:port,ip3 :port“)。load

每当我执行命令时,我都会出现以下错误:

:25:错误:未找到:值火花 我还有其他方法可以通过Scala Shell订阅kafka中的主题。 我正在使用Spark-1.6.3 Scala-2.10.5版本。

2 个答案:

答案 0 :(得分:0)

Spark在标准scala库中不可用,但是您可以通过将jar文件添加到类路径fe中来加载外部源库(例如spark):

scala -cp SomeLib.jar

或与:require

scala> :require SomeLib.jar

然后您将需要导入正确的软件包。但是问题是为什么呢?如果您想以某种方式处理该消息,那么使用带有SBT之类构建工具的简单项目会容易得多。如果您只想使用消息fe。进行一些测试/预览,而您不想为此创建自定义应用,那么卡夫卡中有一个kafka-console-consumerhttps://kafka.apache.org/quickstart#quickstart_consume

答案 1 :(得分:0)

您可以使用spark-shell,它看起来与Scala shell完全一样,但是具有所有必需的库并创建了spark上下文。 spark-shell包含在标准Spark安装中。

例如参见https://jaceklaskowski.gitbooks.io/mastering-apache-spark/spark-shell.html了解详情。