加快子阵列改组和存储

时间:2017-09-06 15:21:26

标签: python arrays list numpy shuffle

我有一个整数列表(di),另一个列表(rang_indx)由numpy个整数子数组(下面的代码)组成。对于每个子数组,我需要在单独的列表(indx)中存储由di列表给出的许多随机元素。

我可以看到np.random.shuffle()不会改变子阵列中的元素,而是rang_indx内的子阵列本身,这不是我需要的。因此,我需要使用for循环首先对子数组进行混洗(就地),然后使用另一个(与zip()结合使用)来生成indx列表。 / p>

作为更大代码的一部分,此函数被调用数百万次。有没有办法加快这个过程?

import numpy as np


def func(di, rang_indx):
    # Shuffle each sub-array in place.
    for _ in rang_indx:
        np.random.shuffle(_)

    # For each shuffled sub-array, only keep as many elements as those
    # indicated by the 'di' array.
    indx = [_[:i] for (_, i) in zip(*[rang_indx, di.astype(int)])]

    return indx


# This data is not fixed, and will change with each call to func()
di = np.array([ 4.,  2.,   0.,   600.,  12.,  22.,  13.,  21.,  25.,  25.,  12.,  11.,
         7.,  12.,  10.,  13.,   5.,  10.])
rang_indx = [np.array([]), np.array([189, 195, 209, 214, 236, 237, 255, 286, 290, 296, 301, 304, 321,
       323, 327, 329]), np.array([164, 171, 207, 217, 225, 240, 250, 263, 272, 279, 284, 285, 289]), np.array([101, 162, 168, 177, 179, 185, 258, 261, 264, 269, 270, 278, 281,
       287, 293, 298]), np.array([111, 127, 143, 156, 159, 161, 181, 182, 183, 194, 196, 198, 204,
       205, 210, 212, 235, 239, 267, 268, 297]), np.array([107, 116, 120, 128, 130, 136, 137, 144, 152, 155, 157, 166, 169,
       170, 184, 186, 192, 218, 220, 226, 228, 241, 245, 246, 247, 251,
       252, 253]), np.array([ 99, 114, 118, 121, 131, 134, 158, 216, 219, 221, 224, 231, 233,
       234, 243, 244]), np.array([ 34,  37,  38,  48,  56,  78,  84, 100, 108, 117, 122, 123, 132,
       149, 151, 153, 163, 178, 180, 191, 199, 202, 208, 211]), np.array([ 31,  40,  41,  45,  51,  53,  57,  60,  61,  66,  67,  69,  71,
        75,  85,  90,  95,  96, 167, 173, 174, 176, 188, 190, 197, 206]), np.array([  0,   1,   2,   3,   6,  11,  12,  13,  17,  25,  33,  36,  47,
        58,  64,  76,  87,  94, 160, 165, 172, 175, 187, 193, 201, 203]), np.array([  4,  16,  18,  19, 109, 113, 115, 124, 138, 142, 145, 150]), np.array([103, 105, 106, 112, 125, 135, 139, 140, 141, 146, 147, 154]), np.array([102, 104, 110, 119, 126, 129, 133, 148]), np.array([29, 32, 42, 43, 55, 63, 72, 77, 79, 83, 91, 92]), np.array([35, 49, 59, 73, 74, 81, 86, 88, 89, 97, 98]), np.array([30, 39, 44, 46, 50, 52, 54, 62, 65, 68, 80, 82, 93]), np.array([ 8, 10, 15, 27, 70]), np.array([ 5,  7,  9, 14, 20, 21, 22, 23, 24, 26, 28])]

func(di, rang_indx)

1 个答案:

答案 0 :(得分:1)

方法#1:这是一个想法,当我们循环并仅使用一个循环时,意图保持最小的工作 -

  1. 在区间2D中创建[0,1)随机数组以覆盖最大值。子阵列的长度。
  2. 对于每个子阵列,将无效位置设置为1.0。获取每行的argsort。对应于无效位置的那些1将留在后面,因为原始随机数组中没有1。因此,我们有索引数组。
  3. 将这些索引数组的每一行切割为di中列出的长度范围。
  4. 使用切片索引开始循环并从rang_indx切片每个子数组。
  5. 因此,实施 -

    lens = np.array([len(i) for i in rang_indx])
    di0 = np.minimum(lens, di.astype(int))
    invalid_mask = lens[:,None] <= np.arange(lens.max())
    rand_nums = np.random.rand(len(lens), lens.max())
    rand_nums[invalid_mask] = 1
    shuffled_indx = np.argpartition(rand_nums, lens-1, axis=1)
    
    out = []
    for i,all_idx in enumerate(shuffled_indx):
        if lens[i]==0:
            out.append(np.array([]))
        else:
            slice_idx = all_idx[:di0[i]]
            out.append(rang_indx[i][slice_idx])
    

    方法#2:在循环中以有效的方式完成大部分设置工作的另一种方法 -

    lens = np.array([len(i) for i in rang_indx])
    di0 = np.minimum(lens, di.astype(int))
    out = []
    for i in range(len(lens)):
        if lens[i]==0:
            out.append(np.array([]))
        else:
            k = di0[i]
            slice_idx = np.argpartition(np.random.rand(lens[i]), k-1)[:k]
            out.append(rang_indx[i][slice_idx])