查找熊猫数据框列的唯一行,第二列的所有值均为NaN

时间:2020-07-15 08:57:28

标签: python pandas dataframe pandas-groupby

嗨,我正在努力解决以下问题:

给定一个具有列namevariable的数据框,我想创建2个列表:

  • list_names_nan包含变量列中所有值均为nan的名称
  • list_names_not_nan包含变量列表中列表1的值不是nan的名称

下面是一个例子

import pandas
import numpy

df = pandas.DataFrame(data=[['x',1],['y',2],['x',4],['z',numpy.nan],
                            ['x',numpy.nan],['y',3],['x',numpy.nan],['z',numpy.nan],],
                            columns=['name','variable'])
df:
  name  variable
0    x       1.0
1    y       2.0
2    x       4.0
3    z       NaN
4    x       NaN
5    y       3.0
6    x       NaN
7    z       NaN

所需的输出应该是

list_names_nan = [z]
list_names_not_nan = [x,y]

2 个答案:

答案 0 :(得分:3)

使用Series.isna创建一个布尔掩码,然后在此掩码上使用Series.groupby并使用all进行汇总,最后使用此掩码m过滤nannot_nan个值:

m = df['variable'].isna().groupby(df['name']).all()
nan, not_nan = m[m].index.tolist(),  m[~m].index.tolist()

结果:

['z']  # nan
['x', 'y'] # not_nan

答案 1 :(得分:0)

这是使用自定义聚合函数的另一种方式:

agg = df.groupby('name').agg(lambda x: all(np.isnan(x))).reset_index()

这将生成一个聚合数据帧:

  name  variable
0    x     False
1    y     False
2    z      True

然后,您只需获取FalseTrue的名称

list_names_nan = agg.loc[agg['variable']==True]['name'].tolist()
list_names_not_nan = agg.loc[agg['variable']==False]['name'].tolist()