我使用kafka_2.11-0.10.1.1
(主分支)python绑定运行confluent-kafka-0.9.2
,使用librdkafka-0.9.2
。我的机器运行ubuntu-16.04 x86_64。我在端口zookeeper-3.4.8-1
上运行2181
。我运行汇合的生产者示例,如下所示:
$ cd confluent-kafka-python/examples
$ python producer.py localhost:9095 confluent-01
first message
2nd msg
和消费者:
$ python consumer.py localhost:9095 confluentgroup confluent-01
所有东西都在我的机器上本地运行,它不会运行任何防火墙。
说明:
{'bootstrap.servers': broker, 'group.id': group, 'session.timeout.ms': 6000, 'default.topic.config': {'auto.offset.reset': 'smallest'}, 'api.version.request': True }
producer/consumer
工作正常一段时间,直到我在生产者方面获得Receive failed: Disconnected
。 Exerpt:$ python producer.py localhost:9095 confluent-02
asd
% Message delivered to confluent-02 [0]
1234123
890890
% Message delivered to confluent-02 [0]
%3|1485791262.420|FAIL|rdkafka#producer-1| [thrd:obscura.ax.example.com:9095/3]: obscura.ax.example.com:9095/3: Receive failed: Disconnected
问题:过了一段时间我没有在消费者方面得到任何东西
问题:
'debug': "cgrp, topic, fetch"
。我在哪里可以阅读日志?答案 0 :(得分:1)
我有两点建议:
1)尝试将选项--from-beginning添加到使用者命令
2)代理的默认端口是9092,因此请检查正确的端口以使用
希望这有帮助。
答案 1 :(得分:1)
我最终使事情发挥作用。最初我运行confluent-kafka tutorial,其中:
ctrl+c
SIGINT信号,poll()
。因此,我必须在我的linux机器上ctrl+z
然后kill %1
。我相信这个终止并没有关闭套接字,套接字保持打开一段时间(TIME_WAIT
)。然后,当我重新启动消费者时,它从旧插座中取出垃圾并卡住了。
我添加了try: [...] except KeyboardInterrupt: consumer.close()
以捕获ctrl+c
并关闭套接字清除。而且不再面临这个问题。
我希望这将有助于将来。