如何从pandas数据帧中提取列表或dict中的非NA值

时间:2018-06-18 06:19:35

标签: python pandas dataframe data-analysis

我有这样的df,

df,则

    AAA BBB CCC
0   4   10  100
1   5   20  50
2   6   30  -30
3   7   40  -50

df_mask = pd.DataFrame({'AAA' : [True] * 4, 'BBB' : [False] * 4,'CCC' : [True,False] * 2})df.where(df_mask)

    AAA BBB CCC
0   4   NaN 100.0
1   5   NaN NaN
2   6   NaN -30.0
3   7   NaN NaN

我试图像这样提取非空值。

我试过了,      df[df.where(df_mask).notnull()].to_dict()但它提供了所有值

我的预期输出是,

{'AAA': {0: 4, 1: 5, 2: 6, 3: 7},
 'CCC': {0: 100.0, 2: -30.0}}

2 个答案:

答案 0 :(得分:2)

让我们在这里使用agg

v = df.where(df_mask).agg(lambda x: x.dropna().to_dict())

在旧版本中,apply执行相同的操作(尽管速度稍慢)。

v = df.where(df_mask).apply(lambda x: x.dropna().to_dict())

现在,在最后一步中过滤掉带有空字典的行:

res = v[v.str.len() > 0].to_dict()

print(res)
{'AAA': {0: 4.0, 1: 5.0, 2: 6.0, 3: 7.0}, 'CCC': {0: 100.0, 2: -30.0}}

另一种免费申请是字典理解:

v = df.where(df_mask)  
res = {k : v[k].dropna().to_dict() for k in df} 

print(res)
{'AAA': {0: 4, 1: 5, 2: 6, 3: 7}, 'BBB': {}, 'CCC': {0: 100.0, 2: -30.0}}

请注意,这个(稍微)更简单的解决方案会保留具有空值的键。

答案 1 :(得分:1)

您可以迭代df的列并明智地应用dropna Series

{col: df[col].dropna().values for col in df}

哪个收益

{'AAA': array([4, 5, 6, 7]),
 'BBB': array([], dtype=float64),
 'CCC': array([ 100.,  -30.])}

您可以使用

过滤掉'BBB'等空数组
{key: val for key, val in ddict.items() if val}