无法解析Spark Dataframe中的列(数字列名称)

时间:2017-03-09 14:47:29

标签: scala apache-spark spark-dataframe

这是我的数据:

scala> data.printSchema
root
 |-- 1.0: string (nullable = true)
 |-- 2.0: string (nullable = true)
 |-- 3.0: string (nullable = true)

这不起作用:(

scala> data.select("2.0").show

例外:

org.apache.spark.sql.AnalysisException: cannot resolve '`2.0`' given input columns: [1.0, 2.0, 3.0];;
'Project ['2.0]
+- Project [_1#5608 AS 1.0#5615, _2#5609 AS 2.0#5616, _3#5610 AS 3.0#5617]
   +- LocalRelation [_1#5608, _2#5609, _3#5610]
        ...

在家尝试这个(我在shell v_2.1.0.5上运行)!

val data = spark.createDataFrame(Seq(
  ("Hello", ", ", "World!")
)).toDF("1.0", "2.0", "3.0")
data.select("2.0").show

2 个答案:

答案 0 :(得分:7)

您可以使用backticks来转义点,该点是为访问结构类型的列而保留的:

data.select("`2.0`").show
+---+
|2.0|
+---+
| , |
+---+

答案 1 :(得分:4)

问题是从数据框中选择时无法在列名中添加点字符。你可以看看这个类似的question

val data = spark.createDataFrame(Seq(
  ("Hello", ", ", "World!")
)).toDF("1.0", "2.0", "3.0")
data.select(sanitize("2.0")).show

def sanitize(input: String): String = s"`$input`"