在熊猫聚合中应用过滤器

时间:2018-09-25 11:33:28

标签: python pandas aggregation

假设我有以下pd.DataFrame

import pandas as pd
import numpy as np

data = {'number': [1, 1, 1, 2],  'q':[np.nan, 2, np.nan, 1], 'letter': ['alpha', 'beta', 'gamma', 'alpha']}
df = pd.DataFrame(data)

   number   q   letter
0   1      NaN   alpha
1   1      2.0   beta
2   1      NaN   gamma
3   2      1.0   alpha

我想做的是按数字进行汇总,并创建一个包含所有字母的列表,然后根据q的值应用过滤器。

如果我这样做:

df.groupby('number').agg({"letter": lambda w: list(w) })将产生:

    letter
number  
1   [alpha, beta, gamma]
2   [alpha]

但是我只想包括这些列,以使相应的q值不是NaN,即

  number    letter
0   1       [beta]
1   2       [alpha]

编辑:我希望能有一个更通用的解决方案(不仅是我们拥有NaN值),还是希望将q的值指定为阈值是否将包括在内。

1 个答案:

答案 0 :(得分:3)

我认为需要DataFrame.dropna

df1 = df.dropna().groupby('number').agg({"letter": lambda w: list(w)})

如果要指定列以删除缺失值:

df1 = df.dropna(subset=['q']).groupby('number').agg({"letter": lambda w: list(w)})
print (df1)
         letter
number         
1        [beta]
2       [alpha]

编辑:

您还可以通过query进行过滤:

df1 = df.query("q > 0").groupby('number').agg({"letter": lambda w: list(w)})

boolean indexing

df1 = df[df['q'] > 0].groupby('number').agg({"letter": lambda w: list(w)})

df1 = df[df['q'].notnull()].groupby('number').agg({"letter": lambda w: list(w)})

EDIT1:

在功能上也可以进行过滤,以避免丢失不匹配的组:

def f(x):
    return x.loc[x['q'] > 1, 'letter'].tolist()

df2 = df.groupby('number').apply(f).reset_index(name='val')
print (df2)
   number     val
0       1  [beta]
1       2      []

df1 = df[df['q'] > 1].groupby('number').agg({"letter": lambda w: list(w)})
print (df1)
        letter
number        
1       [beta]