当特定的列值为空时,添加所有列的行值,直到获得非空值?

时间:2019-03-26 12:18:43

标签: python pandas dataframe

我有一个像这样的数据框:

df
col1      col2      col3      col4
 A         12        34        XX
 B         20        25        PP
 B         nan       nan       nan
 nan       P         54        nan
 nan       R         nan       nan
 nan       nan       nan       PQ
  C         D         32       SS
  R         S         32       RS

如果col1值为null,我想添加其他列的所有值,直到在col1中找到notnull元素为止。

我正在寻找的数据框应如下所示:

col1     col2     col3     col4
 A         12       34       XX
 B         20       25       PP
 B         PR       54       PQ
 C          D       32       SS
 R          S       32       RS        

如何使用python / pandas以最有效的方式进行操作

1 个答案:

答案 0 :(得分:5)

如果要处理字符串之类的所有列,首先将col1中的缺失值向前填充,请将NaN替换为空字符串,将所有值转换为strings并使用sum

df['col1'] = df['col1'].ffill()
df = df.set_index('col1').fillna('').astype(str).sum(level=0).reset_index()
print (df)
  col1 col2  col3 col4
0    A   12  34.0   XX
1    B   PR  54.0   PQ
2    C    D  32.0   SS

print (df.dtypes)
col1     object
col2     object
col3     object
col4     object
dtype: object

如果需要,仅使用聚合方法处理数字列,例如meanif-else一起使用lambda函数:

df['col1'] = df['col1'].ffill()
c = df.select_dtypes(object).columns
df[c] = df[c].fillna('')

f = lambda x: x.mean() if np.issubdtype(x.dtype, np.number) else ''.join(x)
df = df.groupby('col1').agg(f).reset_index()
print (df)
  col1 col2  col3 col4
0    A   12  34.0   XX
1    B   PR  54.0   PQ
2    C    D  32.0   SS

print (df.dtypes)
col1     object
col2     object
col3    float64
col4     object
dtype: object

编辑:使用了新的帮助器列:

df['new'] = df['col1'].notna().cumsum()
df['col1'] = df['col1'].ffill()
c = df.select_dtypes(object).columns
df[c] = df[c].fillna('')

f = lambda x: x.mean() if np.issubdtype(x.dtype, np.number) else ''.join(x)
df = df.groupby(['col1', 'new']).agg(f).reset_index(level=1, drop=True).reset_index()