bin数据取决于单独列的值

时间:2014-11-13 12:02:56

标签: python pandas categories dataframe binning

我有一个看起来像这个玩具示例的数据集:

s1 = pd.Series(np.random.rand(5))
s2 = pd.Series(np.random.rand(5) * 10)
cat1 = pd.Series(['s1'] * 5)
cat2 = pd.Series(['s2'] * 5)
s = s1.append(s2).reset_index(drop=True)
c = cat1.append(cat2).reset_index(drop=True)
data = pd.DataFrame({'cat': c,'s': s})
print data

  cat                    s
0  s1                 0.68
1  s1                 0.61
2  s1                 0.43
3  s1                 0.68
4  s1                 0.11
5  s2                 4.82
6  s2                 8.19
7  s2                 3.88
8  s2                 5.51
9  s2                 1.20

我想根据列cat中的值使用不同的分箱范围来分组数据。这就是我试过的:

def bucketing_fun(x, cat):
    if cat == 's1':
        return np.digitize([x], s1_buckets)[0]
    else:
        return np.digitize([x], s2_buckets)[0]

data['Buckets'] = data[['s', 'cat']].apply(lambda x: bucketing_fun(x[0], x[1]), axis=1)
print data

这有效但我在真实数据集上存在性能问题,大约有0.5万行。

1 个答案:

答案 0 :(得分:1)

你可能会失去矢量化加速

试试这个:

buckets = dict(s1=s1_buckets, s2=s2_buckets)
data['Buckets'] = data.groupby(['cat']).apply(lambda df: np.digitize(df.s, buckets[df.cat.irow(0)]))