Question

我使用0.8.2.1 kafka-clients库连接到Kafka。当Kafka出现时，我能够成功连接，但是我希望在Kafka失败时优雅地处理失败。这是我的配置：

kafkaProperties.setProperty(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG, kafkaUrl);
kafkaProperties.setProperty(ProducerConfig.VALUE_SERIALIZER_CLASS_CONFIG, "org.apache.kafka.common.serialization.StringSerializer");
kafkaProperties.setProperty(ProducerConfig.KEY_SERIALIZER_CLASS_CONFIG, "org.apache.kafka.common.serialization.StringSerializer");
kafkaProperties.setProperty(ProducerConfig.RETRIES_CONFIG, "3");
producer = new KafkaProducer(kafkaProperties);

当Kafka关闭时，我的日志中出现以下错误：

WARN: 07 Apr 2015 14:09:49.230 org.apache.kafka.common.network.Selector:276 - [] Error in I/O with localhost/127.0.0.1
java.net.ConnectException: Connection refused
at sun.nio.ch.SocketChannelImpl.checkConnect(Native Method) ~[na:1.7.0_75]
at sun.nio.ch.SocketChannelImpl.finishConnect(SocketChannelImpl.java:739) ~[na:1.7.0_75]
at org.apache.kafka.common.network.Selector.poll(Selector.java:238) ~[kafka-clients-0.8.2.1.jar:na]
at org.apache.kafka.clients.NetworkClient.poll(NetworkClient.java:192) [kafka-clients-0.8.2.1.jar:na]
at org.apache.kafka.clients.producer.internals.Sender.run(Sender.java:191) [kafka-clients-0.8.2.1.jar:na]
at org.apache.kafka.clients.producer.internals.Sender.run(Sender.java:122) [kafka-clients-0.8.2.1.jar:na]
at java.lang.Thread.run(Thread.java:745) [na:1.7.0_75]

此错误在无限循环中重复并锁定我的Java应用程序。我已经尝试了与超时，重试和确认相关的各种配置设置，但我无法阻止此循环发生。

是否有配置设置可以防止这种情况？我是否需要尝试不同版本的客户端？如何优雅地处理卡夫卡停电？

Answer 1

我发现这种设置组合允许kafka客户端在没有保留线程或垃圾邮件日志的情况下快速失败：

kafkaProperties.setProperty(ProducerConfig.METADATA_FETCH_TIMEOUT_CONFIG, "300");
kafkaProperties.setProperty(ProducerConfig.TIMEOUT_CONFIG, "300");
kafkaProperties.setProperty(ProducerConfig.RETRY_BACKOFF_MS_CONFIG, "10000");
kafkaProperties.setProperty(ProducerConfig.RECONNECT_BACKOFF_MS_CONFIG, "10000");

我不喜欢kafka客户端在尝试连接到kafka服务器时保留线程，而不是完全异步，但这至少是有用的。

Answer 2

在0.9客户端中，还有max.block.ms属性，这将限制允许客户端运行的时间。

我怎样才能优雅地处理卡夫卡停电？

2 个答案: