Question

由于我们大量的消息流入，因此我试图在一个使用者组中创建多个使用者以进行并行处理。我正在使用Spring Boot和KafkTemplate。如何在Spring Boot应用程序的单个实例中创建属于单个使用者组的多个使用者？使用@KafkaListener注释的多个方法是否会创建多个使用者？

Answer 1

您必须使用ConcurrentMessageListenerContainer。它委派一个或多个KafkaMessageListenerContainer实例以提供多线程使用。

@Bean
KafkaListenerContainerFactory<ConcurrentMessageListenerContainer<String, String>> kafkaListenerContainerFactory() {
    ConcurrentKafkaListenerContainerFactory<String, String> factory =
        new ConcurrentKafkaListenerContainerFactory<>();
    factory.setConsumerFactory(consumerFactory());
    factory.setConcurrency(10);
    factory.getContainerProperties().setPollTimeout(3000);
    return factory;
}

factory.setConcurrency（10）创建10个KafkaMessageListenerContainer实例。每个实例都有一定数量的分区。这取决于创建主题时配置的分区数量。

一些准备步骤：

@Autowired
private KafkaTemplate<String, Object> kafkaTemplate;

private final static String BOOTSTRAP_ADDRESS = "localhost:9092";
private final static String CONSUMER_GROUP = "consumer-group-1";
private final static String TOPIC = "test-topic";

@Bean
public ConsumerFactory<String, String> consumerFactory() {
    Map<String, Object> props = new HashMap<>();
    props.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, BOOTSTRAP_ADDRESS);
    props.put(ConsumerConfig.GROUP_ID_CONFIG, CONSUMER_GROUP);
    props.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
    props.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
    return new DefaultKafkaConsumerFactory<>(props);
}


@KafkaListener(topics = TOPIC, containerFactory = "kafkaListenerContainerFactory")
public void listen(@Payload String message) {
    logger.info(message);
}

public void start() {
    try {
        Thread.sleep(5000L);
    } catch (InterruptedException e) {
        e.printStackTrace();
    }
    
    for (int i = 0; i < 10; i++) {
        kafkaTemplate.send(TOPIC, i, String.valueOf(i), "Message " + i);
    }
    
    logger.info("All message are sent");
}

如果运行上面的方法，您会看到每个KafkaMessageListenerContainer实例都处理正在放入该实例所服务的分区中的消息。添加Thread.sleep（）来等待使用者被初始化。

2020-07-01 15:48:34.800  INFO 201566 --- [ntainer#0-4-C-1] r.s.c.KafkaConsumersDemo                 : Message 5
2020-07-01 15:48:34.801  INFO 201566 --- [ntainer#0-6-C-1] r.s.c.KafkaConsumersDemo                 : Message 7
2020-07-01 15:48:34.800  INFO 201566 --- [ntainer#0-7-C-1] r.s.c.KafkaConsumersDemo                 : Message 8
2020-07-01 15:48:34.800  INFO 201566 --- [ntainer#0-9-C-1] r.s.c.KafkaConsumersDemo                 : Message 1
2020-07-01 15:48:34.800  INFO 201566 --- [ntainer#0-0-C-1] r.s.c.KafkaConsumersDemo                 : Message 0
2020-07-01 15:48:34.800  INFO 201566 --- [ntainer#0-8-C-1] r.s.c.KafkaConsumersDemo                 : Message 9
2020-07-01 15:48:34.800  INFO 201566 --- [ntainer#0-3-C-1] r.s.c.KafkaConsumersDemo                 : Message 4
2020-07-01 15:48:34.801  INFO 201566 --- [ntainer#0-2-C-1] r.s.c.KafkaConsumersDemo                 : Message 3
2020-07-01 15:48:34.801  INFO 201566 --- [ntainer#0-1-C-1] r.s.c.KafkaConsumersDemo                 : Message 2
2020-07-01 15:48:34.800  INFO 201566 --- [ntainer#0-5-C-1] r.s.c.KafkaConsumersDemo                 : Message 6

Answer 2

是的，@KafkaListener将为您创建多个消费者。

这样，您可以将它们全部配置为使用相同的主题并属于同一组。 Kafka协调员会将分区分发给您的使用者。

尽管主题中只有一个分区，但是并发不会发生：单个分区在单个线程中处理。

另一个选择确实是配置concurrency，然后根据concurrency <-> partition状态将再次创建多个使用者。

Answer 3

正如@Salavat Yalalo所建议的那样，我将我的Kafka容器工厂设置为(val: string | number) => string | number。在@KafkaListenere方法上，我添加了称为concurrency的选项，该选项接受一个整数作为字符串，该字符串指示要跨越的使用者数量，如下所示

(val: string) => string

运行时，我看到在单个消费者组中创建了4个消费者。

如何使用Spring提供的Kafka API在消费组中创建多个消费者

3 个答案: