来自pySpark的新手的简单问题: 我有一个df,我想进行条件混合,如果分母不是0则返回聚合结果,否则为0。
我的试探性产生错误:
groupBy=["K"]
exprs=[(sum("A")+(sum("B"))/sum("C") if sum("C")!=0 else 0 ]
grouped_df=new_df.groupby(*groupBy).agg(*exprs)
任何提示?
谢谢
答案 0 :(得分:4)
你必须使用when/otherwise
来表示if / else:
import pyspark.sql.functions as psf
new_df.groupby("K").agg(
psf.when(psf.sum("C")==0, psf.lit(0)).otherwise((psf.sum("A") + psf.sum("B"))/psf.sum("C")).alias("sum")
)
但你也可以这样做:
import pyspark.sql.functions as psf
new_df.groupby("K").agg(
((psf.sum("A") + psf.sum("B"))/psf.sum("C")).alias("sum")
).na.fill({"sum": 0})