如何改组Pandas数据帧的行组?

时间:2017-05-24 13:11:55

标签: python pandas numpy shuffle

假设我有一个数据帧df:

import numpy as np
import pandas as pd

df = pd.DataFrame(np.random.rand(12,4))

print(df)

     0   1   2   3
0   71  64  84  20
1   48  60  83  61
2   48  78  71  46
3   65  88  66  77
4   71  22  42  58
5   66  76  64  80
6   67  28  74  87
7   32  90  55  78
8   80  42  52  14
9   54  76  73  17
10  32  89  42  36
11  85  78  61  12

如何将三乘三行的df混洗,即如何随后将第三行(0,1,2)与第二行(3,4,5),第三行(6)随机混洗(6 ,7,8)或第四(9,10,11)组?这可能是一个可能的结果:

print(df)

     0   1   2   3
3   65  88  66  77
4   71  22  42  58
5   66  76  64  80
9   54  76  73  17
10  32  89  42  36
11  85  78  61  12
6   67  28  74  87
7   32  90  55  78
8   80  42  52  14
0   71  64  84  20
1   48  60  83  61
2   48  78  71  46

因此,新订单包含来自原始数据帧的第二组3行,然后是最后一行,然后是第三组,最后是第一组。

3 个答案:

答案 0 :(得分:4)

您可以重塑为3D数组,将第一个轴拆分为两个,后者长度为3,对应于组长度,然后使用np.random.shuffle进行这样的分组 - 沿着第一个轴放置shuffle,其长度随着组的数量保持这些组而从而实现我们期望的结果,如此 -

np.random.shuffle(df.values.reshape(-1,3,df.shape[1]))

解释

为了给它一些解释,让我们使用np.random.permutation沿第一轴生成那些随机索引,然后索引到3D数组版本。

1]输入df:

In [199]: df
Out[199]: 
     0   1   2   3
0   71  64  84  20
1   48  60  83  61
2   48  78  71  46
3   65  88  66  77
4   71  22  42  58
5   66  76  64  80
6   67  28  74  87
7   32  90  55  78
8   80  42  52  14
9   54  76  73  17
10  32  89  42  36
11  85  78  61  12

2]获取3D数组版本:

In [200]: arr_3D = df.values.reshape(-1,3,df.shape[1])

In [201]: arr_3D
Out[201]: 
array([[[71, 64, 84, 20],
        [48, 60, 83, 61],
        [48, 78, 71, 46]],

       [[65, 88, 66, 77],
        [71, 22, 42, 58],
        [66, 76, 64, 80]],

       [[67, 28, 74, 87],
        [32, 90, 55, 78],
        [80, 42, 52, 14]],

       [[54, 76, 73, 17],
        [32, 89, 42, 36],
        [85, 78, 61, 12]]])

3]将shuffling indices和index拖入3D版本的第一个轴:

In [202]: shuffle_idx = np.random.permutation(arr_3D.shape[0])

In [203]: shuffle_idx
Out[203]: array([0, 3, 1, 2])

In [204]: arr_3D[shuffle_idx]
Out[204]: 
array([[[71, 64, 84, 20],
        [48, 60, 83, 61],
        [48, 78, 71, 46]],

       [[54, 76, 73, 17],
        [32, 89, 42, 36],
        [85, 78, 61, 12]],

       [[65, 88, 66, 77],
        [71, 22, 42, 58],
        [66, 76, 64, 80]],

       [[67, 28, 74, 87],
        [32, 90, 55, 78],
        [80, 42, 52, 14]]])

然后,我们将这些值分配回输入数据帧。

使用np.random.shuffle,我们只是就地执行所有操作并隐藏显式生成随机索引并分配回来所需的工作。

示例运行

In [181]: df = pd.DataFrame(np.random.randint(11,99,(12,4)))

In [182]: df
Out[182]: 
     0   1   2   3
0   82  49  80  20
1   19  97  74  81
2   62  20  97  19
3   36  31  14  41
4   27  86  28  58
5   38  68  24  83
6   85  11  25  88
7   21  31  53  19
8   38  45  14  72
9   74  63  40  94
10  69  85  53  81
11  97  96  28  29

In [183]: np.random.shuffle(df.values.reshape(-1,3,df.shape[1]))

In [184]: df
Out[184]: 
     0   1   2   3
0   85  11  25  88
1   21  31  53  19
2   38  45  14  72
3   82  49  80  20
4   19  97  74  81
5   62  20  97  19
6   36  31  14  41
7   27  86  28  58
8   38  68  24  83
9   74  63  40  94
10  69  85  53  81
11  97  96  28  29

答案 1 :(得分:2)

与@Divakar类似的解决方案,可能比我直接改组数据框的索引更简单:

import numpy as np
import pandas as pd

df = pd.DataFrame([np.arange(0, 12)]*4).T
len_group = 3

index_list = np.array(df.index)
np.random.shuffle(np.reshape(index_list, (-1, len_group)))

shuffled_df = df.loc[index_list, :]

示例输出:

shuffled_df
    Out[82]: 
     0   1   2   3
9    9   9   9   9
10  10  10  10  10
11  11  11  11  11
3    3   3   3   3
4    4   4   4   4
5    5   5   5   5
0    0   0   0   0
1    1   1   1   1
2    2   2   2   2
6    6   6   6   6
7    7   7   7   7
8    8   8   8   8

答案 2 :(得分:0)

这与其他两个答案的作用相同,但使用整数除法来创建组列。

nrows_df = len(df)
nrows_group = 3

shuffled = (
    df
    .assign(group_var=df.index // nrows_group)
    .set_index("group_var")
    .loc[np.random.permutation(nrows_df / nrows_group)]
)