我是新的火花,面临一个奇怪的问题。我有三个RDD数据帧t1frame,t2frame,t3frame,所有这些都是非空的图片给出
我首先使用了波纹管代码,我已经导入了reduce和dataframe
def unionAll(*dfs):
return reduce(DataFrame.unionAll,dfs)
TTunified=unionAll(t1frame,t2frame,t3frame)
TTunified.show()
我有这张空白的桌子。然后我尝试统一拖曳数据帧
unionframe1=t1frame.union(t2frame)
unionframe1.show()
我得到了相同的结果。即使我已经尝试过基于表格的方法,但没有任何改变。我怎么能解决它,请指导我。我在这里错过了什么。我正在使用pyspark 2.0