我对kafka和kafka-python相当新。安装kafka-python之后,我尝试从这里开始实现消费者代码 - http://kafka-python.readthedocs.io/en/master/usage.html
我一直在kafka的bin目录中编写使用者代码,并尝试从那里运行python代码。但是我收到以下错误:
追踪(最近一次通话): File" KafkaConsumer.py",第4行,in 消费者留言: 文件" /usr/local/lib/python2.7/dist-packages/kafka/vendor/six.py" ;,第559行,下一步 返回类型(自我)。下一步(个体经营) 文件" /usr/local/lib/python2.7/dist-packages/kafka/consumer/group.py" ;,第915行,下一步 返回下一个(self._iterator) 文件" /usr/local/lib/python2.7/dist-packages/kafka/consumer/group.py",第876行,在_message_generator中 对于self._fetcher中的msg: 文件" /usr/local/lib/python2.7/dist-packages/kafka/vendor/six.py" ;,第559行,下一步 返回类型(自我)。下一步(个体经营) 文件" /usr/local/lib/python2.7/dist-packages/kafka/consumer/fetcher.py" ;,第520行,下一步 返回下一个(self._iterator) 文件" /usr/local/lib/python2.7/dist-packages/kafka/consumer/fetcher.py" ;,第477行,在_message_generator中 对于self._unpack_message_set(tp,messages)中的msg: 文件" /usr/local/lib/python2.7/dist-packages/kafka/consumer/fetcher.py",第372行,在_unpack_message_set中 inner_mset = msg.decompress() 文件" /usr/local/lib/python2.7/dist-packages/kafka/protocol/message.py" ;,第121行,解压缩 断言has_snappy(),' Snappy解压缩不受支持' AssertionError:Snappy解压缩不受支持
这是我一直试图运行的代码:
from kafka import KafkaConsumer
consumer = KafkaConsumer ('mytopic',bootstrap_servers = ['localhost:9092'], group_id='test-consumer-group')
print "Consuming messages from the given topic"
for message in consumer:
print("%s:%d%d: key=%s value=%s" % (message.topic, message.partition, message.offset, message.key, message.value))

因为,我对卡夫卡来说真的很陌生,所以我无法理解我做错了什么。
答案 0 :(得分:2)
您似乎缺少python-snappy,这是读取以snappy格式压缩的数据所必需的。
您需要snappy
和snappy-devel
,您可以使用yum,apt-get等安装它们。
然后尝试pip install python-snappy