生产/消费到远程Kafka不起作用

时间:2019-05-11 19:17:11

标签: apache-kafka kafka-python pykafka

我已经通过Bitnami AMI映像设置了一个运行Apache Kafka 0.8的AWS EC2实例。服务器属性几乎是默认属性(Kafka位于localhost:9092,zookeeper位于localhost:2181)。

当我通过SSH进入计算机时,可以使用kafka提供的脚本(位于kafka / bin中)生成/使用数据。 要生成,我运行以下命令:

./kafka-console-producer.sh --broker-list localhost:9092 --topic test

要消费:

./kafka-console-consumer.sh --zookeeper localhost:2181 --topic test --from-beginning

这正常工作,因此我确定Kafka正常运行。接下来,我尝试使用python库pykafka从我的机器生产/消费:

client = KafkaClient(hosts = KAFKA_HOST)
topic = client.topics[sys.argv[1]]

try:
    with topic.get_producer(max_queued_messages=1, auto_start=True) as producer:
        while True:
            for i in range(10):
                message = "Test message sent on: " + str(datetime.datetime.now().strftime("%I:%M%p on %B %d, %Y"))
                encoded_message = message.encode("utf-8")
                mess = producer.produce(encoded_message)
except Exception as error:
    print('Something went wrong; printing exception:')
    print(error)

我消耗如下:

client = KafkaClient(hosts = KAFKA_HOST)
topic = client.topics[sys.argv[1]]

try:    
    while True:
        consumer = topic.get_simple_consumer(auto_start=True)
        for message in consumer:
            if message is not None:
                print (message.offset, message.value)
except Exception as error:
    print('Something went wrong; printing exception:')
    print(error)

这些代码段运行时没有错误或异常,但没有产生或使用任何消息,甚至没有通过本地脚本创建的消息。

我已经确认端口9092和2181都通过telnet打开。 我的问题如下:

  • 是否可以调试此类问题并找到根本原因?如果存在某些连接问题,我希望库会引发异常。
  • 发生了什么事?

0 个答案:

没有答案