如何在apache spark中同时使用dataset.select和selectExpr

时间:2017-11-22 06:24:33

标签: apache-spark apache-spark-dataset

我想使用Spark(2.2)数据集

提到下面提到的数据
Name    Age Age+5

A       10  15

B       5   10

C       25  30

我尝试使用以下内容:

dataset.select( 
        dataset.col("Name"), 
        dataset.col("Age),
        dataset.col( dataset.selectExpr("Age"+5).toString() )
       );

由于找不到Age列,因此抛出异常。

1 个答案:

答案 0 :(得分:5)

selectExpr有定义:

public Dataset<Row> selectExpr(String... exprs)

它需要varargs String作为它的参数。所以,你可以使用:

dataset.selectExpr( "Name", "Age", "Age+5" )