无法在python版本3.7中设置KafkaUtills.createdirectstream偏移量

时间:2018-12-12 16:26:54

标签: kafka-consumer-api

我用pyspark kafka制作了直接流。但是我无法在其中设置fromOffset的值。它给了我一个异常ClassCastException Long不能分配给int 但是问题是我们在python版本3中没有长数据类型。那么如何解决这个问题呢? 如何在Python 3中设置fromOffset值而不将其强制转换为long? 我这样做是为了消耗那些在消费者死后仍未阅读的消息。 我使用了此链接pySpark Kafka Direct Streaming update Zookeeper / Kafka Offset

中提到的方法

谢谢

1 个答案:

答案 0 :(得分:-1)

如果您使用的是0_10版本的流jar文件,请检查您的spark提交代码。 0_10版本将不支持python。可以使用0_8 Kafka版本代替0_10。

Kafka 0_8版本将接受整数偏移值。

请参考下面的文件。

https://spark.apache.org/docs/2.2.0/streaming-kafka-integration.html