我正在尝试使用Long作为消息密钥的类型,但我得到了
Exception in thread "kafka_stream_app-f236aaca-3f90-469d-9d32-20ff694806ff-StreamThread-1" org.apache.kafka.streams.errors.StreamsException: Failed to deserialize key for record. topic=test, partition=0, offset=0
at org.apache.kafka.streams.processor.internals.SourceNodeRecordDeserializer.deserialize(SourceNodeRecordDeserializer.java:38)
at org.apache.kafka.streams.processor.internals.RecordQueue.addRawRecords(RecordQueue.java:84)
at org.apache.kafka.streams.processor.internals.PartitionGroup.addRawRecords(PartitionGroup.java:117)
at org.apache.kafka.streams.processor.internals.StreamTask.addRecords(StreamTask.java:474)
at org.apache.kafka.streams.processor.internals.StreamThread.addRecordsToTasks(StreamThread.java:642)
at org.apache.kafka.streams.processor.internals.StreamThread.runLoop(StreamThread.java:548)
at org.apache.kafka.streams.processor.internals.StreamThread.run(StreamThread.java:519)
Caused by: org.apache.kafka.common.errors.SerializationException: Size of data received by LongDeserializer is not 8
我检查了data.length
是7
。
在streamsConfiguration中我设置了
streamsConfiguration.put(StreamsConfig.KEY_SERDE_CLASS_CONFIG, Serdes.Long().getClass().getName());
我用
KStream<Long, GenericRecord> stream = builder.stream(topic);
我尝试通过简单的应用程序以及kafka-avro-console-producer
发送消息:
/opt/confluent-3.3.0/bin/kafka-avro-console-producer \
--broker-list localhost:9092 \
--topic test \
--property key.separator=, \
--property parse.key=true \
--property key.schema='{"type":"long"}' \
--property value.schema='{"type":"string"}' \
--property schema.registry.url=http://localhost:8081
带有消息
123,"293"
使用kafka-avro-console-consumer
我可以使用该消息并查看(--property print.key=true
发送的密钥是否正确123
)
知道在解码消息时可能出现什么问题?
答案 0 :(得分:0)
由于您使用的是kafka-avro-console-producer
,因此密钥不会被序列化为普通Long
,而是序列化为Avro类型。因此,您需要使用与写入路径上使用的模式相同的Avro Serde(即'{"type":"long"}"
)。
此外,您的退货类型不是Long
,而是Avro类型。