基于另一个系列的熊猫高效分组

时间:2017-03-21 11:53:22

标签: python python-3.x pandas dataframe group-by

我需要改变基于我DataFrame中另一个布尔列的分组操作。在一个示例中最容易看到:我有以下DataFrame

    b          id   
0   False      0
1   True       0
2   False      0
3   False      1
4   True       1
5   True       2
6   True       2
7   False      3
8   True       4
9   True       4
10  False      4

并希望获得一个列,如果b列为True,则其元素为True,对于给定的id,它是最后一次为True:

    b          id    lastMention
0   False      0     False
1   True       0     True
2   False      0     False
3   False      1     False
4   True       1     False
5   True       2     True
6   True       3     True
7   False      3     False
8   True       4     False
9   True       4     True
10  False      4     False

我有一个代码可以实现这一目标,尽管效率低下:

def lastMentionFun(df):
    b = df['b']
    a = b.sum()
    if a > 0:
        maxInd = b[b].index.max()
        df.loc[maxInd, 'lastMention'] = True
    return df

df['lastMention'] = False
df = df.groupby('id').apply(lastMentionFun)

有人可以提出什么是正确的pythonic方法来做到这一点好又快?

2 个答案:

答案 0 :(得分:2)

您可以先在b列中过滤True,然后使用max获取groupby索引值并汇总max

print (df[df.b].reset_index().groupby('id')['index'].max())
id
0    1
1    4
2    6
4    9
Name: index, dtype: int64

然后将值False替换为loc的索引值:

df['lastMention'] = False
df.loc[df[df.b].reset_index().groupby('id')['index'].max(), 'lastMention'] = True

print (df)
        b  id  lastMention
0   False   0        False
1    True   0         True
2   False   0        False
3   False   1        False
4    True   1         True
5    True   2        False
6    True   2         True
7   False   3        False
8    True   4        False
9    True   4         True
10  False   4        False

另一种解决方案 - 使用maxgroupby获取apply索引值,然后使用isin测试索引中值的成员资格 - 输出为boolean Series:< / p>

print (df[df.b].groupby('id').apply(lambda x: x.index.max()))
id
0    1
1    4
2    6
4    9
dtype: int64

df['lastMention'] = df.index.isin(df[df.b].groupby('id').apply(lambda x: x.index.max()))
print (df)
        b  id lastMention
0   False   0       False
1    True   0        True
2   False   0       False
3   False   1       False
4    True   1        True
5    True   2       False
6    True   2        True
7   False   3       False
8    True   4       False
9    True   4        True
10  False   4       False

答案 1 :(得分:0)

不确定这是否是最有效的方法,但它只使用内置函数(主要是“cumsum”,然后是max来检查它是否等于最后一个 - pd.merge只用于放置最后回到表中,也许还有更好的方法吗?)。

df['cum_b']=df.groupby('id', as_index=False).cumsum()
df = pd.merge(df, df[['id','cum_b']].groupby('id', as_index=False).max(), how='left', on='id', suffixes=('','_max'))
df['lastMention'] = np.logical_and(df.b, df.cum_b == df.cum_b_max)

P.S。您在示例中指定的数据框会从第一个代码段稍微更改为第二个代码段,我希望我已正确解释您的请求!