pandas:merged(内连接)数据框的行数多于原始数据

时间:2017-01-10 23:26:13

标签: python python-3.x pandas dataframe

我在Jupyter Notebook上使用python 3.4,尝试合并两个数据框,如下所示:

df_A.shape
(204479, 2)

df_B.shape
(178, 3)

new_df = pd.merge(df_A, df_B,  how='inner', on='my_icon_number')
new_df.shape
(266788, 4)

我认为上面合并的new_df应该比df_A少几行,因为合并就像一个内连接。但为什么new_df实际上有更多行而不是df_A

这是我真正想要的:

我的df_A就像:

 id           my_icon_number
-----------------------------
 A1             123             
 B1             234
 C1             123
 D1             235
 E1             235
 F1             400

和我的df_B就像:

my_icon_number    color      size
-------------------------------------
  123              blue      small
  234              red       large 
  235              yellow    medium

然后我希望new_df成为:

 id           my_icon_number     color       size
--------------------------------------------------
 A1             123              blue        small
 B1             234              red         large
 C1             123              blue        small
 D1             235              yellow      medium
 E1             235              yellow      medium

我真的不想删除df_A中my_icon_number的重复项。知道我错过了什么吗?

1 个答案:

答案 0 :(得分:8)

由于两个数据集中的合并列都有重复项,因此您将获得具有该合并列值的k * m行,其中k是数据中具有该值的行数set 1和m是数据集2中具有该值的行数。

尝试drop_duplicates

dfa = df_A.drop_duplicates(subset=['my_icon_number'])
dfb = df_B.drop_duplicates(subset=['my_icon_number'])

new_df = pd.merge(dfa, dfb, how='inner', on='my_icon_number')

实施例

在此示例中,唯一的共同值是4,但我在每个数据集中都有3次。这意味着我应该在生成的合并中获得总共9行,每个组合一行。

df_A = pd.DataFrame(dict(my_icon_number=[1, 2, 3, 4, 4, 4], other_column1=range(6)))
df_B = pd.DataFrame(dict(my_icon_number=[4, 4, 4, 5, 6, 7], other_column2=range(6)))

pd.merge(df_A, df_B,  how='inner', on='my_icon_number')

   my_icon_number  other_column1  other_column2
0               4              3              0
1               4              3              1
2               4              3              2
3               4              4              0
4               4              4              1
5               4              4              2
6               4              5              0
7               4              5              1
8               4              5              2