Kafka 0.9.0.1 Java消费者陷入awaitMetadataUpdate()

时间:2016-06-12 01:51:51

标签: java apache-kafka kafka-consumer-api kafka-producer-api

我试图让一个简单的Kafka Consumer使用Java API v0.9.0.1。我使用的kafka服务器是一个docker容器,也运行版本0.9.0.1。以下是消费者代码:

public class Consumer {
    public static void main(String[] args) throws IOException {

        KafkaConsumer<String, String> consumer;
        try (InputStream props = Resources.getResource("consumer.props").openStream()) {
            Properties properties = new Properties();
            properties.load(props);
            consumer = new KafkaConsumer<>(properties);
        }

        consumer.subscribe(Arrays.asList("messages"));
        try {
            while (true) {
                ConsumerRecords<String, String> records = consumer.poll(100);
                for (ConsumerRecord<String, String> record : records)
                    System.out.println("Message received: " + record.value());
            }
        }catch(WakeupException ex){
            System.out.println("Exception caught " + ex.getMessage());
        }finally{
            consumer.close();
            System.out.println("After closing KafkaConsumer");
        }
    }
}

但是,在启动使用者时,它会调用上面的poll(100)方法并且永远不会返回。调试,看起来好像在org.apache.kafka.clients.consumer.internals.ConsumerNetworkClient中永远运行以下方法:

public void awaitMetadataUpdate() {
    int version = this.metadata.requestUpdate();

    do {
        this.poll(9223372036854775807L);
    } while(this.metadata.version() == version);

}

(版本和this.metadata.version()似乎总是== 2)。此外,尽管它没有抛出任何错误,但是我的java生产者的消息从未见过将其发送到队列中。我已经验证了使用命令行kafka工具,我可以发送和接收来自队列的消息。

任何人都知道这里发生了什么?

1 个答案:

答案 0 :(得分:1)

如果这有助于其他有类似问题的人,我的解决方案是设置以下环境变量:

ADVERTISED_HOST=localhost
ADVERTISED_PORT=9092

(当然,此处的值可能会更改以适合您的安装)

显然,命令行使用者和生产者脚本可以设置正确地查找代理并与代理通信,而不设置这些env变量,但Java API实现不能。也不会抛出任何错误,只是在尝试更新元数据时第一次轮询时出现无限循环。