熊猫数据帧矢量化采样

时间:2016-05-25 04:36:27

标签: python pandas

我有一个简单的df形成pivot_table:

    d = {'one' : ['A', 'B', 'B', 'C', 'C', 'C'], 'two' : [6., 5., 4., 3., 2., 1.],     'three' : [6., 5., 4., 3., 2., 1.], 'four' : [6., 5., 4., 3., 2., 1.]}
    df = pd.DataFrame(d)
    pivot = pd.pivot_table(df,index=['one','two'])

我想从列中的每个不同元素中随机抽取一行'一个'生成的数据透视对象。 (在这个例子中,' A'将始终被采样,而有更多选项用于' B' C'。)我刚刚开始使用0.18.0大熊猫的版本,我知道.sample方法。我使用了类似这样的采样函数来解决.groupby方法:

    grouped = pivot.groupby('one').apply(lambda x: x.sample(n=1, replace=False))

当我尝试使用该主题的变体时,我提出了一个KeyError,所以我认为现在是时候对这个看似简单的问题有一些新观点...

感谢您的帮助!

1 个答案:

答案 0 :(得分:3)

引发KeyError,因为'one'不是pivot中的列,而是索引的名称:

In [11]: pivot
Out[11]:
         four  three
one two
A   6.0   6.0    6.0
B   4.0   4.0    4.0
    5.0   5.0    5.0
C   1.0   1.0    1.0
    2.0   2.0    2.0
    3.0   3.0    3.0

您必须使用级别参数:

In [12]: pivot.groupby(level='one').apply(lambda x: x.sample(n=1, replace=False))
Out[12]:
             four  three
one one two
A   A   6.0   6.0    6.0
B   B   4.0   4.0    4.0
C   C   1.0   1.0    1.0

这是不正确的,因为索引重复了!使用as_index=False

稍微好一些
In [13]: pivot.groupby(level='one', as_index=False).apply(lambda x: x.sample(n=1))
Out[13]:
           four  three
  one two
0 A   6.0   6.0    6.0
1 B   4.0   4.0    4.0
2 C   2.0   2.0    2.0

注意:每次选择一个随机

作为替代方案,可能更具性能的变体(拉出子帧:

In [21]: df.iloc[[np.random.choice(x) for x in g.indices.values()]]
Out[21]:
   four one  three  two
1   5.0   B    5.0  5.0
3   3.0   C    3.0  3.0
0   6.0   A    6.0  6.0