无法摆脱Python中无限循环的kafka消费者守护进程

时间:2015-12-03 08:01:40

标签: python python-multithreading kafka-python

我写了一个消耗kafka事件的程序。它有一个守护进程,我希望在10秒后终止。

def kafkaConsumer():
consumer = KafkaConsumer(sys.argv[1],group_id='test-consumer-group',bootstrap_servers=sys.argv[2].split(','))
schema_path=sys.argv[3]
schema = avro.schema.parse(open(schema_path).read())

for msg in consumer:
    value = bytearray(msg.value)
    bytes_reader = io.BytesIO(value[9:])
    decoder = avro.io.BinaryDecoder(bytes_reader)
    reader = avro.io.DatumReader(schema)
    try:
        event = reader.read(decoder)
    except:
        pass
    eventInJsonFormat=json.dumps(event)
    print(eventInJsonFormat)

if __name__ == '__main__':
run_thread = Thread(target=kafkaConsumer())
run_thread.daemon = True
run_thread.start()
time.sleep(10)

请忽略缩进 但是这个程序在10秒后没有终止。想知道我在这里缺少什么?

1 个答案:

答案 0 :(得分:0)

向您的消费者添加10秒超时:

consumer = KafkaConsumer(sys.argv[1],
consumer_timeout_ms=10000
group_id='test-consumer-group',
bootstrap_servers=sys.argv[2].split(','),
)