pyspark:合并(外连接)两个数据帧

时间:2016-06-27 21:36:53

标签: python apache-spark pyspark spark-dataframe

我有以下两个数据框:

$ cordova-check-plugins --update=auto --force-update

DF1:

    Id | field_A | field_B | field_C | field_D
     1 |   cat   |  12     |   black | 11
     2 |   dog   | 128     |   white | 19
     3 |   dog   |  35     |  yellow | 20
     4 |   dog   |  21     |   brown |  4
     5 |  bird   |  10     |    blue |  7
     6 |   cow   |  99     |   brown | 34

我希望将new_DF作为

DF2:

    Id | field_B | field_C | field_D | field_E
     3 |  35     |  yellow | 20      |   123   
     5 |  10     |    blue |  7      |   454   
     6 |  99     |   brown | 34      |   398   

这可以通过数据框操作来实现吗?谢谢!

1 个答案:

答案 0 :(得分:16)

试试这个:

new_df = df1.join(df2, on=['field_B', 'field_C', 'field_D'], how='left_outer')