Question

我有一个矩形（4000,4000），我想反过来。（我对反转矩阵的直觉因为这么大的矩阵而崩溃了。）

起始矩阵的值为e-10，具有以下值：print matrix给出输出

[[  2.19885119e-10   2.16462810e-10   2.13062782e-10 ...,  -2.16462810e-10
   -2.19885119e-10  -2.16462810e-10]
 [  2.16462810e-10   2.19885119e-10   2.16462810e-10 ...,  -2.13062782e-10
   -2.16462810e-10  -2.19885119e-10]
 [  2.13062782e-10   2.16462810e-10   2.19885119e-10 ...,  -2.16462810e-10
   -2.13062782e-10  -2.16462810e-10]
 ..., 
 [ -2.16462810e-10  -2.13062782e-10  -2.16462810e-10 ...,   2.19885119e-10
    2.16462810e-10   2.13062782e-10]
 [ -2.19885119e-10  -2.16462810e-10  -2.13062782e-10 ...,   2.16462810e-10
    2.19885119e-10   2.16462810e-10]
 [ -2.16462810e-10  -2.19885119e-10  -2.16462810e-10 ...,   2.13062782e-10
    2.16462810e-10   2.19885119e-10]]

然后我使用NumPy的numpy.linalg.inv（）来反转矩阵。

import numpy as np
new_matrix = np.linalg.inv(matrix)
print new_matrix

这是我得到的回报：

[[  1.95176541e+25   9.66643852e+23  -1.22660930e+25 ...,  -1.96621184e+25
   -9.41413909e+24   1.33500310e+25]
 [  2.01500967e+25   1.08946558e+24  -1.25813014e+25 ...,  -2.07717912e+25
   -9.86804459e+24   1.42950556e+25]
 [  3.55575106e+25   2.11333704e+24  -2.25333936e+25 ...,  -3.68616202e+25
   -1.72651875e+25   2.51239524e+25]
 ..., 
 [  3.07255588e+25   1.61759838e+24  -1.95678425e+25 ...,  -3.15440712e+25
   -1.47472306e+25   2.13570651e+25]
 [ -7.24380790e+24  -8.63730581e+23   4.90519245e+24 ...,   8.30663797e+24
    3.70858694e+24  -5.32291734e+24]
 [ -1.95760004e+25  -1.12341031e+24   1.23820305e+25 ...,   2.01608416e+25
    9.40221886e+24  -1.37605863e+25]]

这是一个巨大的差异！怎么会这样？幅度e-10的矩阵被反转为幅度为e+25的矩阵？

这在数学上是正确的，还是IEEE浮点值崩溃了？

如果这在数学上是正确的，那么有人可以向我解释这背后的数学直觉吗？

编辑：

根据以下评论，我决定进行测试。

np.dot(matrix, new_matrix)应该给出单位矩阵，A * A ^ T = Identity。

这是我的输出：

[[  0.   -3.  -16.  ...,  16.    8.   12. ]
 [-24.   -1.5  -8.  ...,  32.   -4.   36. ]
 [ 40.    1.  -64.  ...,  24.   20.   24. ]
 ..., 
 [ 32.   -0.5  48.  ..., -16.  -20.   16. ]
 [ 40.    7.   16.  ..., -48.  -36.  -28. ]
 [ 16.    3.   12.  ..., -80.   16.    0. ]]

为什么numpy.linalg.inv()会导致数字错误？

np.allclose( np.dot(matrix, new_matrix), np.identity(4000) )

给出False。

Answer 1

你的矩阵是病态的，因为

np.linalg.cond(matrix) > np.finfo(matrix.dtype).eps

根据this answer，您可以考虑使用Singular Value Decomposition来反转此类矩阵。

Answer 2

对于2个矩阵的行列式，你有

det(A) * det(A^{-1}) = 1

因此如果det(A)很大，则det(A^{-1})很小。对于2个矩阵的范数，（如果你选择一个次乘法范数），你have：

1  =  |A*A^{-1}| >= |A| |A^-1|

其中||是一个乘法的合理选择。在这里你可以直观地看到你在数字上观察到的东西：如果＆gt; =符号实际上是一个〜=，你就可以恢复对行列式来说严格为真的相同观察。

如果考虑产品，同样的理由适用

A * A^{-1} = 1

表示具有所有正元素的矩阵A。对于RHS 1对角线上的元素，如果A^{-1}的元素非常大，则需要来自A的非常小的数字。

PS：但请注意，这并不能证明这种趋势始终存在。这只是提供了观察这种缩放的原因的数学直觉。

编辑，回复评论：

最初的问题是“如果这在数学上是正确的，那么有人可以向我解释这背后的数学直觉吗？”。事实上，在数学上正确和合理的是，给定一个数字较小的矩阵，逆数将具有较大的数字。上面我解释了为什么会这样。

要回答OP编辑中出现的另一个问题，这就是inv()导致数值误差的原因：反转矩阵是一个难题。这就是为什么我们每次都可以避免反转它们。例如，对于问题

A x = b

我们不计算A的倒数，而是使用其他算法（实际上，你可以在python中调用scipy.linalg.solve）。

numpy.linalg.inv（）给出正确的矩阵逆？编辑：为什么inv（）给出数字错误？

2 个答案: