Spark阅读Cassandra UDT专栏

时间:2016-06-03 17:20:10

标签: apache-spark cassandra apache-spark-sql

我的Cassandra表格中有专栏名称' ABC_lines'。

这是一种UDT数据类型。 UDT名称是" ABC_om_line"

如果我查看表ABC_lines的模式,这就是我的列类型的样子。

ABC_lines列表>

我在此UDT" ABC_om_line"下有30列。像col1,col2,col3等到col30。

现在我想通过从这个UDT中拉出col2和col3来创建一个数据帧。

任何人都可以帮忙。

正在使用 Spark 1.6 Scala 2.10

1 个答案:

答案 0 :(得分:2)

不幸的是,连接器无法映射UDT的集合,请参见此处:https://github.com/datastax/spark-cassandra-connector/blob/master/doc/6_advanced_mapper.md#using-custom-field-types

Custom converters for collections are not supported