我有一个带有多个分区的Kafka主题。我有一个Spark应用程序使用Dstream订阅该主题。当我启动该应用程序的另一个实例时,第一个应用程序将引发异常
线程“ main”中的异常java.lang.IllegalStateException:分区my-topic-0没有当前分配
然后退出。
答案 0 :(得分:0)
在正常情况下,当不使用spark时,如果我们启动两个具有相同组ID的kafka消费者,并且该主题只有一个分区,则第二个使用者将变得空闲/陈旧。消费者必须使用不同的组ID来启动。同样适用于火花情况