在Spark中使用from_avro函数从Kafka avro格式反序列化结构无法正常工作

时间:2019-01-21 19:41:40

标签: apache-spark apache-kafka avro spark-structured-streaming

我使用to_avro将数据帧中的struct字段序列化为'value'并写入kafka主题。
我的结构有几个字符串字段。我测试过,所有领域都有价值。 使用Spark Streaming,我阅读了该主题,并使用from_avro使用用于序列化该结构的确切模式对值进行反序列化。

select(from_avro($"value", schema).as("value")) 

返回是结果数据帧中的一个struct字段。但是,结构中总会有一些没有值的字段。只是某些字段具有正确的值。
这可能是to_avro / from_avro函数中的错误,还是我没有正确使用它们?

0 个答案:

没有答案