如何根据先前在熊猫数据框中找到的值填写 nan 值?

时间:2021-04-21 12:57:11

标签: python pandas duplicates pandas-groupby fillna

我有以下示例数据框(普通数据框有 1000 多行)

df = pd.DataFrame({'P1':['jaap','tim','piet','tim','tim'],
                   'P2':['piet','jaap','jaap','piet','jaap'],
                   'Count1':[2, 3, np.nan, np.nan, np.nan], 'Count2':[3, 1, np.nan, np.nan, np.nan]})
print(df)

     P1    P2  Count1  Count2
0  jaap  piet     2.0     3.0
1   tim  jaap     3.0     1.0
2  piet  jaap     NaN     NaN
3   tim  piet     NaN     NaN
4   tim  jaap     NaN     NaN

现在我想根据以下规则找到一种巧妙的方法来填充 NaN 值:

The names found in P1 and P2 have to be the same. 

因此,在行号 2 中找到的 nan 值必须与行 0 中的值相同,因为名称也被交换,所以只需要交换值。 3 行中的 nan 值应保留为 nan,因为在任何先前行中都找不到 timpiet 的组合。行 4 中的 nan 值必须与行 1 中的值相同。 所以想要的结果是:

     P1    P2  Count1  Count2
0  jaap  piet     2.0     3.0
1   tim  jaap     3.0     1.0
2  piet  jaap     3.0     2.0
3   tim  piet     NaN     NaN
4   tim  jaap     3.0     1.0

这个问题很相似: Pandas fillna using groupby

只有将那篇文章中提出的解决方案应用于这篇文章中的问题,结果才会略有偏差:

df.groupby(['P1','P2'])[['Count1','Count2']].apply(lambda x: x.fillna(method = 'ffill'))
print(df)

             Count1  Count2
  P1   P2                  
0 jaap piet     2.0     3.0
1 tim  jaap     3.0     1.0
2 piet jaap     NaN     NaN
3 tim  piet     NaN     NaN
4 tim  jaap     3.0     1.0

如您所见,第 jaap 行中的名称 piet0 更改了第 2 行中的列,因此它不起作用。

1 个答案:

答案 0 :(得分:1)

想法是首先在 concat 中使用 rename 创建具有更改顺序的 DataFrame,删除具有缺失值和可能重复项的行,并通过 DataFrame.update 更改原始值:

d = {'P2':'P1','P1':'P2','Count1':'Count2','Count2':'Count1'}
df1 = (pd.concat([df, df.rename(columns=d)])
         .dropna(subset=['Count1','Count2'])
         .drop_duplicates(['P1','P2']))

df = df.set_index(['P1','P2'])
df1 = df1.set_index(['P1','P2'])

df.update(df1)

df = df.reset_index()
print (df)

     P1    P2  Count1  Count2
0  jaap  piet     2.0     3.0
1   tim  jaap     3.0     1.0
2  piet  jaap     3.0     2.0
3   tim  piet     NaN     NaN
4   tim  jaap     3.0     1.0