我使用to_avro
将数据帧中的struct字段序列化为'value'并写入kafka主题。
我的结构有几个字符串字段。我测试过,所有领域都有价值。
使用Spark Streaming,我阅读了该主题,并使用from_avro
使用用于序列化该结构的确切模式对值进行反序列化。
select(from_avro($"value", schema).as("value"))
返回是结果数据帧中的一个struct字段。但是,结构中总会有一些没有值的字段。只是某些字段具有正确的值。
这可能是to_avro
/ from_avro
函数中的错误,还是我没有正确使用它们?