从这个JIRA票证Hide UserDefinedType in Spark 2.0 ,似乎spark隐藏了版本2.0中的UDT API。
我们可以在2.2版中使用替代函数或API,以便我们可以定义UserDefinedType吗?我希望在数据帧或结构化流媒体中使用自定义类型。
答案 0 :(得分:3)
没有其他API,UDT仍为私有(https://issues.apache.org/jira/browse/SPARK-7768)。
通用Encoders
(org.apache.spark.sql.Encoders.kryo
和org.apache.spark.sql.Encoders.javaSerialization
)在Dataset
中提供类似用途,但没有直接替换: