Question

在我的应用程序中，我创建了一个生产者和一个消费者。

conf->set("dr_cb", delivery_cb, errstr);
conf->set("event_cb", event_cb, errstr);

RdKafka::Producer::create(conf.get(), errstr)

conf->set("log_level", "0", errstr);
conf->set("group.id", group_id, errstr);
conf->set("client.id", m_kafka_client_id, errstr);
conf->set("auto.offset.reset", "earliest", errstr);
conf->set("rebalance_cb", rebalance_cb, errstr);
conf->set("statistics.interval.ms", "3000", errstr);
conf->set("event_cb", event_cb, errstr);

RdKafka::KafkaConsumer::create(conf.get(), errstr)

然后我尝试按如下方式获取元数据

err = _consumer->metadata(false, nullptr, &metadata, METADATA_TIMEOUT); 
std::unique_ptr<RdKafka::Metadata> metadata_uptr(metadata); // Handover the raw pointer to the unique_ptr now

如果由于某种原因，经纪人沟通不起作用，我会得到错误消息，然后通过unique_ptr删除生产者和消费者 - ＆gt;析构函数。然后这将循环，直到应用程序成功连接到代理。

我观察到的是我看到许多线程被创建并保留在那里。在一个时间点，计数达到了2000个线程。

清理Kafka的正确方法是什么？

线程被困在这里

#0  0x00007f6acc031cf2 in pthread_cond_timedwait@@GLIBC_2.3.2 () from /lib64/libpthread.so.0
#1  0x00000000004b8e65 in cnd_timedwait_ms (cnd=cnd@entry=0xab41b8, mtx=mtx@entry=0xab4190, timeout_ms=<optimized out>) at tinycthread.c:501
#2  0x00000000004853aa in rd_kafka_q_serve (rkq=0xab4190, timeout_ms=<optimized out>, max_cnt=max_cnt@entry=0, cb_type=cb_type@entry=RD_KAFKA_Q_CB_CALLBACK, 
callback=callback@entry=0x0, opaque=opaque@entry=0x0) at rdkafka_queue.c:440
#3  0x000000000045a43c in rd_kafka_thread_main (arg=arg@entry=0xabf760) at rdkafka.c:1227
#4  0x00000000004b8c07 in _thrd_wrapper_function (aArg=<optimized out>) at tinycthread.c:624
#5  0x00007f6acc02de25 in start_thread () from /lib64/libpthread.so.0
#6  0x00007f6acaa7834d in clone () from /lib64/libc.so.6

我也尝试在失败时调用以下例程，但没有帮助...

RdKafka::wait_destroyed(5000);

Answer 1

RdKafka :: KafkaConsumer被包装在另一个容器中，“myobject_wrapper-＆gt; close（）”没有被重定向到“RdKafka :: KafkaConsumer :: close”

在我的应用程序中修复此问题后，现在情况正常。

librdkafka线程没有清理失败

1 个答案: