Apache Spark GitHub代码和Maven依赖

时间:2018-01-09 12:33:43

标签: java maven apache-spark spark-streaming

请原谅我的基本问题。我需要使用Apache Spark for Spark Streaming的最新代码中的几个类,所以我可以在我的测试类中使用它们,例如MicroBatchExecution

但是,可用的Maven依赖项没有一些类,例如链接中的类。

如何访问这些?

1 个答案:

答案 0 :(得分:2)

当前稳定版本的Spark - 2.2.1 - 已于2017年12月1日发布。

您引用的类(MicroBatchExecution)已于12月14日在this commit中添加,因此在当前版本中不可用。

由于该类已合并为master,因此可以预期它将在下一个稳定版本(2.3.0)中提供。

我不认为Spark会将快照发布到公开可用的仓库,因此您的选择是:

  1. Build the JAR你自己
  2. 或者

    1. 等待当前的SNAPSHOT版本(2.3.0-SNAPSHOT)作为正式版本发布(2.3.0