Question

我正在学习Apache kafka文档后的kafka。我用默认配置启动它。

bin/zookeeper-server-start.sh config/zookeeper.properties
bin/kafka-server-start.sh config/server.properties &

我运行了kafka-console-producer.sh和kafka-console-consumer.sh来生成和使用消息，并且它成功了。我用生成器API编写了一个java代码来生成消息，这没关系。这由kafka-console-consumer.sh验证。代码与Apache Kafka指南相同：

Properties props = new Properties();
props.put("bootstrap.servers", "localhost:9092");
props.put("acks", "all");
props.put("retries", 0);
props.put("batch.size", 16384);
props.put("linger.ms", 1);
props.put("buffer.memory", 33554432);
props.put("key.serializer",    "org.apache.kafka.common.serialization.StringSerializer");
props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer");

Producer<String, String> producer = new KafkaProducer<>(props);
for(int i = 0; i < 100; i++)
  producer.send(new ProducerRecord<String, String>("my-topic", Integer.toString(i), Integer.toString(i)));

producer.close();

尽管生产者代码有效，但消费者代码不起作用。没有例外，但它只是阻塞在consumer.poll（100）。代码来自Apache Kafka文档：

Properties props = new Properties();
props.put("bootstrap.servers", "localhost:9092");
props.put("group.id", "test");
props.put("enable.auto.commit", "true");
props.put("auto.commit.interval.ms", "1000");
props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
KafkaConsumer<String, String> consumer = new KafkaConsumer<>(props);
consumer.subscribe(Arrays.asList("my-topic"));
while (true) {
    ConsumerRecords<String, String> records = consumer.poll(100);
    for (ConsumerRecord<String, String> record : records)
        System.out.printf("offset = %d, key = %s, value = %s%n", record.offset(), record.key(), record.value());
 }

顺便说一句，Apache Kafka文档中的kafka-console-consumer.sh示例成功地使用了消息，消息由生产者生成主题“test”：

bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test --from-beginning

但是如果我没有连接到zookeeper，而是直接连接到kafka broker，那么它也没有错误也没有异常，只是阻塞。

bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning

kafka版本和API版本为0.11.0.0

为什么他们不能消费消息？

Answer 1

使用--zookeeper参数意味着使用旧的使用者，因为您指定了Zookeeper服务器（localhost：2181），所以它运行良好。如果要指定Kafka代理（因此使用新的使用者），则必须使用--bootstrap-server选项：您仍在使用--zookeeper但传递有效的Kafka代理地址（localhost：9092）。因此，对于控制台消费者应用程序，您的配置需要是--bootstrap-server localhost：9092而不是--zookeeper localhost：9092。关于你的代码，你确定poll方法被阻止了吗？如果没有记录但没有阻塞，它应该在100毫秒（你指定的超时）后退出。然后从你的代码我看到生产者发送到＆＃34; my-topic＆＃34;，消费者订阅＆＃34; foo＆＃34;和＆＃34; bar＆＃34 ;;最后，控制台消费者从＆＃34; test＆＃34;中读取。所有不同的主题！

Answer 2

props.put（＆＃34; auto.offset.reset＆＃34;，＆＃34;最小＆＃34;）; 添加此属性，可以使用

kafka消费者API consumer.poll（）没有错误，没有例外，只是阻止

2 个答案: