pySpark groupby中的条件聚合

时间:2017-09-19 15:48:37

标签: pyspark-sql

来自pySpark的新手的简单问题: 我有一个df,我想进行条件混合,如果分母不是0则返回聚合结果,否则为0。

我的试探性产生错误:

groupBy=["K"]
exprs=[(sum("A")+(sum("B"))/sum("C") if sum("C")!=0 else 0 ]
grouped_df=new_df.groupby(*groupBy).agg(*exprs)

任何提示?

谢谢

1 个答案:

答案 0 :(得分:4)

你必须使用when/otherwise来表示if / else:

import pyspark.sql.functions as psf
new_df.groupby("K").agg(
    psf.when(psf.sum("C")==0, psf.lit(0)).otherwise((psf.sum("A") + psf.sum("B"))/psf.sum("C")).alias("sum")
)

但你也可以这样做:

import pyspark.sql.functions as psf
new_df.groupby("K").agg(
    ((psf.sum("A") + psf.sum("B"))/psf.sum("C")).alias("sum")
).na.fill({"sum": 0})