Pandas按行查找第一个nan值并返回列名

时间:2016-10-12 09:55:28

标签: python pandas

我有一个像这样的数据框

>>df1 = pd.DataFrame({'A': ['1', '2', '3', '4','5'],
              'B': ['1', '1', '1', '1','1'],
              'C': ['c', 'A1', None, 'c3',None],
              'D': ['d0', 'B1', 'B2', None,'B4'],
              'E': ['A', None, 'S', None,'S'],
              'F': ['3', '4', '5', '6','7'],
              'G': ['2', '2', None, '2','2']})
>>df1

   A  B     C     D     E  F     G
0  1  1     c    d0     A  3     2
1  2  1    A1    B1  None  4     2
2  3  1  None    B2     S  5  None
3  4  1    c3  None  None  6     2
4  5  1  None    B4     S  7     2

然后删除包含nan值df2 = df1.dropna()

的行
   A  B     C     D     E  F     G   
1  2  1    A1    B1  None  4     2
2  3  1  None    B2     S  5  None
3  4  1    c3  None  None  6     2
4  5  1  None    B4     S  7     2

这是一个丢弃的数据帧,因为这些行包含nan值。 但是,我想知道为什么会被丢弃?哪一列是“第一个纳米值列”,该行被删除了?我需要一个失败的报告理由。

输出应为

['E','C','D','C']

我知道我可以按每列进行dropna然后将其记录为原因 但它确实没有效率。

有没有更有效的方法来解决这个问题? 谢谢

2 个答案:

答案 0 :(得分:6)

我认为您可以按DataFrame.isnull创建布尔数据框,然后按boolean indexing进行过滤,其中至少有一个Trueany,最后idxmax - 您获得True的第一个DataFrame值的列名:

booldf = df1.isnull()
print (booldf)
       A      B      C      D      E      F      G
0  False  False  False  False  False  False  False
1  False  False  False  False   True  False  False
2  False  False   True  False  False  False   True
3  False  False  False   True   True  False  False
4  False  False   True  False  False  False  False

print (booldf.any(axis=1))
0    False
1     True
2     True
3     True
4     True
dtype: bool

print (booldf[booldf.any(axis=1)].idxmax(axis=1))
1    E
2    C
3    D
4    C
dtype: object

答案 1 :(得分:0)

我会使用itertoolsnumpy.where以及pd.DataFrame.isnull的组合:

>>> df1.isnull()
       A      B      C      D      E      F      G
0  False  False  False  False  False  False  False
1  False  False  False  False   True  False  False
2  False  False   True  False  False  False   True
3  False  False  False   True   True  False  False
4  False  False   True  False  False  False  False
>>> from itertools import *
>>> r,c = np.where(df1.isnull().values)
>>> first_cols = [next(g)[1] for _, g in groupby(izip(r,c), lambda t:t[0])]
>>> df1.columns[first_cols]
Index([u'E', u'C', u'D', u'C'], dtype='object')
>>> 

对于Python 2,使用izip中的itertools,而在Python 3中,只需使用内置zip