我有一个带有45671x45671元素的scipy.sparse矩阵。在此矩阵中,某些行仅包含“0”值。
我的问题是,如何将每行值除以行和。显然,使用for循环它是有效的,但我寻找一种有效的方法......
我已经尝试过:
matrix / matrix.sum(1)
但我有MemoryError
问题。matrix / scs.csc_matrix((matrix.sum(axis=1)))
但ValueError: inconsistent shapes
此外,我想跳过只有'0'值的行。
所以,如果你有任何解决方案......
提前谢谢!
答案 0 :(得分:1)
我有M
闲逛:
In [241]: M
Out[241]:
<6x3 sparse matrix of type '<class 'numpy.uint8'>'
with 6 stored elements in Compressed Sparse Row format>
In [242]: M.A
Out[242]:
array([[1, 0, 0],
[0, 1, 0],
[0, 0, 1],
[0, 1, 0],
[0, 0, 1],
[1, 0, 0]], dtype=uint8)
In [243]: M.sum(1) # dense matrix
Out[243]:
matrix([[1],
[1],
[1],
[1],
[1],
[1]], dtype=uint32)
In [244]: M/M.sum(1) # dense matrix - full size of M
Out[244]:
matrix([[ 1., 0., 0.],
[ 0., 1., 0.],
[ 0., 0., 1.],
[ 0., 1., 0.],
[ 0., 0., 1.],
[ 1., 0., 0.]])
这将解释内存错误 - 如果M
太大而导致M.A
产生内存错误。
In [262]: S = sparse.csr_matrix(M.sum(1))
In [263]: S.shape
Out[263]: (6, 1)
In [264]: M.shape
Out[264]: (6, 3)
In [265]: M/S
....
ValueError: inconsistent shapes
我不完全确定这里发生了什么。
元素乘法工作
In [266]: M.multiply(S)
Out[266]:
<6x3 sparse matrix of type '<class 'numpy.uint32'>'
with 6 stored elements in Compressed Sparse Row format>
因此,如果我将S
构建为S = sparse.csr_matrix(1/M.sum(1))
如果某些行总和为零,则会出现除零问题。
如果我将M
修改为0行
In [283]: M.A
Out[283]:
array([[1, 0, 0],
[0, 1, 0],
[0, 0, 0],
[0, 1, 0],
[0, 0, 1],
[1, 0, 0]], dtype=uint8)
In [284]: S = sparse.csr_matrix(1/M.sum(1))
/usr/local/bin/ipython3:1: RuntimeWarning: divide by zero encountered in true_divide
#!/usr/bin/python3
In [285]: S.A
Out[285]:
array([[ 1.],
[ 1.],
[ inf],
[ 1.],
[ 1.],
[ 1.]])
In [286]: M.multiply(S)
Out[286]:
<6x3 sparse matrix of type '<class 'numpy.float64'>'
with 5 stored elements in Compressed Sparse Row format>
In [287]: _.A
Out[287]:
array([[ 1., 0., 0.],
[ 0., 1., 0.],
[ 0., 0., 0.],
[ 0., 1., 0.],
[ 0., 0., 1.],
[ 1., 0., 0.]])
这并不是展示这一点的最佳M
,但它提出了一种有用的方法。行总和将是密集的,因此您可以使用通常的密集数组方法清理其逆。