我正在尝试使用scala shell订阅kafka中的主题,下面是我为此执行的命令:
scala> val topic1 = spark.read.format(“ kafka”)。option(“ subscribe”,“ topic1”)。option(“ kafka.bootstrap.servers”,“ ip:port,ip2:port,ip3 :port“)。load
每当我执行命令时,我都会出现以下错误:
:25:错误:未找到:值火花 我还有其他方法可以通过Scala Shell订阅kafka中的主题。 我正在使用Spark-1.6.3 Scala-2.10.5版本。
答案 0 :(得分:0)
Spark在标准scala库中不可用,但是您可以通过将jar文件添加到类路径fe中来加载外部源库(例如spark):
scala -cp SomeLib.jar
或与:require
scala> :require SomeLib.jar
然后您将需要导入正确的软件包。但是问题是为什么呢?如果您想以某种方式处理该消息,那么使用带有SBT之类构建工具的简单项目会容易得多。如果您只想使用消息fe。进行一些测试/预览,而您不想为此创建自定义应用,那么卡夫卡中有一个kafka-console-consumer
:https://kafka.apache.org/quickstart#quickstart_consume
答案 1 :(得分:0)
您可以使用spark-shell
,它看起来与Scala shell完全一样,但是具有所有必需的库并创建了spark上下文。 spark-shell
包含在标准Spark安装中。
例如参见https://jaceklaskowski.gitbooks.io/mastering-apache-spark/spark-shell.html了解详情。