排序大numpy矩阵的单元格

时间:2012-06-29 18:22:42

标签: python numpy

我创造了一个很大的(比方说,4000 X 4000)numpy浮动矩阵。我正在通过浮点值对矩阵的单元格进行排序,生成(row,col,value)元组的列表。这是我的代码(简化):

def cells(matrix):
  shape = np.shape(matrix)
  for row in range(shape[0]):
    for col in range(shape[1]):
      yield (row, col, matrix[row,col])

# create a random matrix
matrix = np.random.randint(100, size=(4000,4000))
# sort the cells by value
sorted_cells = sorted(cells(matrix), key=lambda x: x[2])

我知道逐个单元格的产量是低效的,但我不知道如何使用纯粹的numpy迭代矩阵的(row, col, value)元组? 也许这是真正的问题

我当前的方法存在的问题是我的计算机在排序步骤中完全死亡。

如果我这样做,这不是问题:sorted(matrix.flatten())实际上很好,很快,但是我没有得到行和列...

2 个答案:

答案 0 :(得分:7)

numpy.argsort是你的朋友。它不是实际排序给定的数组,而是返回一个整数索引数组,告诉您如何将数组重新排序为排序顺序。鉴于此,您可以对行和列值应用相同的排序。

这是一些代码:首先我们生成一个矩阵;在这里,我使用不同数量的行和列,以便我们可以轻松检查结果是否正确。

>>> import numpy as np
>>> matrix = np.random.randint(100, size=(4000, 5000))
>>> rows, cols = np.indices(matrix.shape)

现在使用argsort来获取索引。

>>> reindex = np.argsort(matrix.flatten())

使用这些索引,我们可以恢复已排序的矩阵:

>>> matrix.flat[reindex]
array([ 0,  0,  0, ..., 99, 99, 99])

也是相应的行和列。

>>> rows.flat[reindex]
array([2455, 2870, 1196, ...,   56,   56, 3618])
>>> cols.flat[reindex]
array([ 863, 1091, 4966, ..., 3959, 3887, 4833])

要验证答案,让我们检查第一行,列对是否确实对应于0的矩阵条目,并且最后一行,列对应于99

>>> r = rows.flat[reindex]
>>> c = cols.flat[reindex]
>>> matrix[r[0], c[0]]
0
>>> matrix[r[-1], c[-1]]
99

编辑:正如nye17的答案所指出的,行和列可以直接从reindex数组中恢复。

>>> r, c = divmod(reindex, matrix.shape[1])

这一切都很快(分选步骤几秒钟)。我猜你的原始代码锁定机器的原因是你生成的列表会占用 lot 的内存;通过坚持使用numpy数组而不是列表和元组,你的内存开销显着下降。

答案 1 :(得分:2)

马克打败了我,但只是我的2美分

使用2x2矩阵作为示例,

import numpy as np
# create a random matrix
matrix = np.random.randint(100, size=(2,2))
indice = np.argsort(matrix, axis=None)
# you can also use `divmod` per mark's version
ind_i = indice//2
ind_j = np.mod(indice, 2)
for i, j in zip(ind_i, ind_j) :
    print("%4d %4d %10.5f" % (i, j, matrix[i,j]))

它给出了

1    0   12.00000
0    1   23.00000
1    1   59.00000
0    0   63.00000