Question

我正在尝试为我的Kafka使用者编写集成测试。我一直遵循official reference documentation，但是当我开始测试时，我只会看到这个重复的广告是无限的：

-2019-04-03 15：47：34.002 WARN 13120 --- [main] org.apache.kafka.clients.NetworkClient：[消费者 clientId = consumer-1，groupId = my-group]无法连接到节点-1 被建立。经纪人可能不可用。

我在做什么错了？

我正在使用JUnit5，Spring Boot和spring-kafka和spring-kafka-test。

我的@EnableKafka类上有@Configuration注释。

这是我的测试班级的样子：

@ExtendWith(SpringExtension::class)
@SpringBootTest(classes = [TestKafkaConfig::class])
@DirtiesContext
@EmbeddedKafka(
        partitions = 1,
        topics = [KafkaIntegrationTest.MY_TOPIC])
class KafkaIntegrationTest {

    @Autowired
    private lateinit var embeddedKafka: EmbeddedKafkaBroker

    @Test
    fun test() {
        val senderProps = KafkaTestUtils.senderProps(embeddedKafka.brokersAsString)
        val template = KafkaTemplate(DefaultKafkaProducerFactory<Int, String>(senderProps))
        template.defaultTopic = KafkaIntegrationTest.MY_TOPIC
        template.sendDefault("foo")
    }
}

我的application.yml看起来像这样：

kafka:
  consumer:
    group-id: my-group
    bootstrap-servers: ${BOOTSTRAP_SERVERS:localhost:9092}
    value-deserializer: io.confluent.kafka.serializers.KafkaAvroDeserializer
    key-deserializer: org.apache.kafka.common.serialization.StringDeserializer
    properties:
      schema.registry.url: ${SCHEMA_REGISTRY_URL:http://localhost:8081}
      specific.avro.reader: true

我也尝试设置MockSchemaRegistryClient，但得到的消息完全相同。（这就是我尝试设置MockSchemaRegistryClient的方式）：

@TestConfiguration
@Import(TestConfig::class)
class TestKafkaConfig {

    @Autowired
    private lateinit var props: KafkaProperties

    @Bean
    fun schemaRegistryClient() = MockSchemaRegistryClient()

    @Bean
    fun kafkaAvroSerializer() = KafkaAvroSerializer(schemaRegistryClient())

    @Bean
    fun kafkaAvroDeserializer() = KafkaAvroDeserializer(schemaRegistryClient(), props.buildConsumerProperties())

    @Bean
    fun producerFactory(): ProducerFactory<*, *> = DefaultKafkaProducerFactory(
            props.buildProducerProperties(),
            StringSerializer(),
            kafkaAvroSerializer())

    @Bean
    fun consumerFactory(): ConsumerFactory<*, *> = DefaultKafkaConsumerFactory(
            props.buildConsumerProperties(),
            StringDeserializer(),
            kafkaAvroDeserializer()
    )

    @Bean
    fun kafkaListenerContainerFactory() = ConcurrentKafkaListenerContainerFactory<Any, Any>().apply {
        setConsumerFactory(consumerFactory() as ConsumerFactory<in Any, in Any>?)
    }

}

我在做什么错？ 请注意：我正在使用Confluent Schema Registry并尝试从Avro反序列化。

我要测试的是我的消费者是否正常工作，如下所示：

open class SomeConsumer(private val someUseCase) {

    @KafkaListener(topics = ["\${kafka.some-topic}"])
    open fun processMessage(record: ConsumerRecord<String, SomeObject>) {
        someUseCase.call(record)
    }
}

Answer 1

我相信您缺少为测试设置代理网址的信息。

在文档中有关于如何获取此值的注释：

当EmbeddedKafkaBroker启动嵌入式Kafka和嵌入式Zookeeper服务器时，会将名为spring.embedded.kafka.brokers的系统属性设置为Kafka代理的地址，并将名为spring.embedded.zookeeper.connect的系统属性设置为设置为Zookeeper的地址。为此属性提供了方便的常量（EmbeddedKafkaBroker.SPRING_EMBEDDED_KAFKA_BROKERS和EmbeddedKafkaBroker.SPRING_EMBEDDED_ZOOKEEPER_CONNECT）。

（位于junit节here的底部）

解决此问题的一种方法是在测试中将kafka.consumers.bootstrap-servers设置为此值，例如

spring:
    kafka:
        consumer:
            bootstrap-servers: ${spring.embedded.kafka.brokers}

Spring Boot Embedded Kafka无法连接

1 个答案: