分别为熊猫中的不同列填写缺失值

时间:2019-08-30 00:48:29

标签: python pandas

说我有一个带有不同类型列的数据框-数字列和分类列。我想为数字列填写中位数,为分类列样本随机值。

这是我到目前为止所做的:

def fill_nulls(df, num_cols, cat_cols):    
    for col in num_cols:
            dic[col] = 'median'
    for col in cat_cols:
            dic[col] = lambda x: x.sample(1)

    df = df.apply(dic) #NOT SURE WHAT MUST BE HERE

我正在创建一个字典,为每列指定所需的方法。但是现在我不确定如何使缺失的值有效。 我认为应该是apply(dic)之类的东西,但是我不确定如何使它仅适用于缺失值。

谢谢!

编辑:

我目前正在做什么:

for col in cat_cols:
    bools = pd.notnull(df[col])
    notnulls = df[col][bools]
    sample = notnulls.sample(1)
    sample = sample.tolist()[0]
    df[col] = df[col].fillna(value=sample)

for col in num_cols:
    med = df[col].median()
    print(type(med))
    df[col] = df[col].fillna(value=med)

这可能不是最有效的方法。因此,如果有人知道更好的方法,那真是太好了!谢谢!

1 个答案:

答案 0 :(得分:0)

我在这里假设您的数据仅由数字和类别列组成(没有日期时间列)。为了演示,首先设置一些示例数据:

import numpy as np
import pandas as pd

df = pd.DataFrame({0: ["0:00", np.nan, "12:00", np.nan, "06:00"],
                  1: [np.nan, 4, 12, 2, np.nan],
                  2: [100, 2, np.nan, -3.6, np.nan],
                  3: ["a", "b", "a", np.nan, np.nan]})
df
    0       1     2     3
0   0:00    NaN   100.0 a
1   NaN     4.0   2.0   b
2   12:00   12.0  NaN   a
3   NaN     2.0   -3.6  NaN
4   06:00   NaN   NaN   NaN

现在,根据您的要求填写缺失值:

# Fill numeric types with median
df = df.fillna(df.median())

# Fill rest of columns (categorical) with random value
df.apply(lambda x: x.fillna(np.random.choice(x[~x.isnull()])))

df
    0       1     2     3
0   0:00    4.0   100.0 a
1   0:00    4.0   2.0   b
2   12:00   12.0  2.0   a
3   0:00    2.0   -3.6  a
4   06:00   4.0   2.0   a