2个Spark应用程序无法使用相同的组ID从相同的Kafka Topic并行消费

时间:2018-11-07 10:44:40

标签: apache-spark apache-kafka

我有一个带有多个分区的Kafka主题。我有一个Spark应用程序使用Dstream订阅该主题。当我启动该应用程序的另一个实例时,第一个应用程序将引发异常

  

线程“ main”中的异常java.lang.IllegalStateException:分区my-topic-0没有当前分配

然后退出。

1 个答案:

答案 0 :(得分:0)

在正常情况下,当不使用spark时,如果我们启动两个具有相同组ID的kafka消费者,并且该主题只有一个分区,则第二个使用者将变得空闲/陈旧。消费者必须使用不同的组ID来启动。同样适用于火花情况