Question

我有一个csr格式的稀疏矩阵，例如：

>>> a = sp.random(3, 3, 0.6, format='csr')  # an example
>>> a.toarray()  # just to see how it looks like
array([[0.31975333, 0.88437035, 0.        ],
       [0.        , 0.        , 0.        ],
       [0.14013856, 0.56245834, 0.62107962]])
>>> a.data  # data array
array([0.31975333, 0.88437035, 0.14013856, 0.56245834, 0.62107962])

对于这个特定示例，我想获得[0, 4]，它们是非零对角元素0.31975333和0.62107962的数据数组索引。

执行此操作的简单方法如下：

ind = []
seen = set()
for i, val in enumerate(a.data):
    if val in a.diagonal() and val not in seen:
        ind.append(i)
        seen.add(val)

但是实际上，矩阵很大，所以我不想使用for循环或使用toarray()方法转换为numpy数组。有更有效的方法吗？

编辑：我只是意识到上面的代码在存在非对角线元素等于和位于一些对角线元素之前的情况下给出了错误的结果：它返回该非对角线元素的索引元件。同样，它不返回重复对角元素的索引。例如：

a = np.array([[0.31975333, 0.88437035, 0.        ],
              [0.62107962, 0.31975333, 0.        ],
              [0.14013856, 0.56245834, 0.62107962]])
a = sp.csr_matrix(a)

>>> a.data
array([0.31975333, 0.88437035, 0.62107962, 0.31975333, 0.14013856,
       0.56245834, 0.62107962])

我的代码返回ind = [0, 2]，但它应该是[0, 3, 6]。 Andras Deak（他的get_rowwise函数）提供的代码返回正确的结果。

Answer 1

我发现了一个可能更有效的解决方案，尽管它仍在循环。但是，它在矩阵的行上而不是元素本身上循环。根据矩阵的稀疏模式，此速度可能会更快，也可能不会更快。对于具有N行的稀疏矩阵，可以保证为此花费N个迭代。

我们只遍历每一行，通过a.indices和a.indptr获取填充的列索引，如果给定行的对角线元素出现在填充值中，则我们计算其索引：< / p>

import numpy as np
import scipy.sparse as sp

def orig_loopy(a):
    ind = []
    seen = set()
    for i, val in enumerate(a.data):
        if val in a.diagonal() and val not in seen:
            ind.append(i)
            seen.add(val)
    return ind

def get_rowwise(a):
    datainds = []
    indices = a.indices # column indices of filled values
    indptr = a.indptr   # auxiliary "pointer" to data indices
    for irow in range(a.shape[0]):
        rowinds = indices[indptr[irow]:indptr[irow+1]] # column indices of the row
        if irow in rowinds:
            # then we've got a diagonal in this row
            # so let's find its index
            datainds.append(indptr[irow] + np.flatnonzero(irow == rowinds)[0])
    return datainds

a = sp.random(300, 300, 0.6, format='csr')
orig_loopy(a) == get_rowwise(a) # True

对于具有相同密度的(300,300)型随机输入，原始版本在3.7秒内运行，新版本在5.5毫秒内运行。

Answer 2

方法1

这是一种矢量化方法，它首先生成所有非零索引，然后获取行索引和列索引相同的位置。这有点慢，并且内存使用率很高。

import numpy as np
import scipy.sparse as sp
import numba as nb

def get_diag_ind_vec(csr_array):
  inds=csr_array.nonzero()
  return np.array(np.where(inds[0]==inds[1])[0])

方法2

Loopy方法通常在性能方面没有问题，只要您使用Compiler例如。 Numba或Cython。我为可能发生的最大对角元素分配了内存。如果此方法占用大量内存，则可以轻松修改。

@nb.jit()
def get_diag_ind(csr_array):
    ind=np.empty(csr_array.shape[0],dtype=np.uint64)
    rowPtr=csr_array.indptr
    colInd=csr_array.indices

    ii=0
    for i in range(rowPtr.shape[0]-1):
      for j in range(rowPtr[i],rowPtr[i+1]):
        if (i==colInd[j]):
          ind[ii]=j
          ii+=1

    return ind[:ii]

时间

csr_array = sp.random(1000, 1000, 0.5, format='csr')

get_diag_ind_vec(csr_array)   -> 8.25ms
get_diag_ind(csr_array)       -> 0.65ms (first call excluded)

Answer 3

这是我的解决方案，它似乎比get_rowwise（Andras Deak）和get_diag_ind_vec（max9111）（我不考虑使用Numba或Cython）要快。

这个想法是将矩阵（或其副本）的非零对角线元素设置为不在原始矩阵中的某个唯一值x（我选择了最大值+ 1），然后只需使用np.where(a.data == x)返回所需的索引即可。

def diag_ind(a):
    a = a.copy()
    i = a.diagonal() != 0  
    x = np.max(a.data) + 1
    a[i, i] = x
    return np.where(a.data == x)

时间：

A = sp.random(1000, 1000, 0.5, format='csr')

>>> %timeit diag_ind(A)
6.32 ms ± 335 µs per loop (mean ± std. dev. of 7 runs, 100 loops each)

>>> %timeit get_diag_ind_vec(A)
14.6 ms ± 292 µs per loop (mean ± std. dev. of 7 runs, 100 loops each)

>>> %timeit get_rowwise(A)
24.3 ms ± 5.28 ms per loop (mean ± std. dev. of 7 runs, 10 loops each)

编辑：复制稀疏矩阵（以保留原始矩阵）的存储效率不高，因此更好的解决方案是存储对角线元素，然后将其用于恢复原始矩阵

def diag_ind2(a):
    a_diag = a.diagonal()
    i = a_diag != 0  
    x = np.max(a.data) + 1
    a[i, i] = x
    ind = np.where(a.data == x)
    a[i, i] = a_diag[np.nonzero(a_diag)]
    return ind

这甚至更快：

>>> %timeit diag_ind2(A)
2.83 ms ± 419 µs per loop (mean ± std. dev. of 7 runs, 100 loops each)

如何获得稀疏矩阵数据数组的对角元素的索引

3 个答案: