谁能解释Revol R中LU分解的异常行为?

时间:2012-01-16 04:40:24

标签: r matrix decomposition

简单的矩阵基准测试表明 Revolution Analytics R 2.13.2 LU分解比矩阵乘法慢近5倍。 理论和多年的实践表明,LU应该是A*A时间的1/3到2/3。

Revo R和Matlab正在使用 Intel的Math Kernel 进行此测试。 R 2.14.1未使用内核。一切都是64位。

异常现象见下表2。这是关于A*A的表1归一化。还有其他(明显的)异常,但LU是最明显的异常。

                        Table 1 (secs)

                    A*A     LU     A\b    Det   Inv
----------------------------------------------------
R 2.14.1           0.757   0.43   0.45   0.20  1.11
Revo R 2.13.2      0.063   0.35   0.11   0.03  0.14
Matlab 2011b       0.062   0.08   0.10   0.07  0.16
----------------------------------------------------
Averaged over 20 runs on a 1000x1000 random matrix


                       Table 2 (normalized)

                    A*A     LU     A\b    Det   Inv
----------------------------------------------------
R 2.14.1             1     0.57   0.19   0.26  1.47
Revol R 2.13.2       1     4.67*  1.58   1.33  2.17
Matlab 2011b         1     0.67   1.72   0.61  1.68
----------------------------------------------------
Note: x = A\b in Matlab is x <- solve(A,b) in R.

更新:我已按照Simon Urbanek的建议,将LUP = expand(lu(Matrix(A)));替换为lu(A); Revo R行现在是

                    Revol R 2.13.2

              A*A    LU     A\b    Det   Inv
            ---------------------------------
  time       0.104  0.107  0.110  0.042  0.231  
  norm time  1.000  1.034  1.060  0.401  2.232 

上的时间(以秒为单位)
Dell Precision 690, 2 x Intel®  Xeon® E53405 CPU @ 2.33GHz,
16GB ram, 2 Processors, 8 Cores and 8 Threads, 
Windows 7 Prof., 64-bit

包含表格和使用的代码的工作进度报告是here


更新2

我修改了矩阵基准测试,仅测试 Matrix Decompositions 。这些是构建所有其他矩阵算法的基础,如果这些算法不稳定,那么所有其他算法也会不稳定。

我已经改为全新的

Lenovo ThinkPad X220, Intel Core i7-2640M CPU @ 2.80GHz, 
8GB ram, 1 Processor, 2 Cores and 4 Threads
Windows 7 Professional, 64-bit.

注意Core i7处理器具有英特尔的Turbo Boost ,如果感知到高需求,它会将时钟频率提高到3.5GHz。据我所知,Turbo Boost不受三个系统中任何一个的程序(mer)控制。

我希望这些改变会使结果更有用。

                          Table 3. Times(secs)

                  A*A    chol(A)   lu(A)    qr(A)    svd(A)   eig(A)   Total
-----------------------------------------------------------------------------
R 2.14.1         0.904    0.157    0.260    0.568    4.260    6.967    13.11
Revol R 2.13.2   0.121    0.029    0.062    0.411    1.623    3.265     5.51   
Matlab 2011b     0.061    0.014    0.033    0.056    0.342    0.963     1.47       
-----------------------------------------------------------------------------
                    Times(secs) averaged over 20  runs



                          Table 4. Times(normalized)

                  A*A    chol(A)   lu(A)    qr(A)    svd(A)  eig(A)   Total
----------------------------------------------------------------------------
R 2.14.1         1.000    0.174    0.288    0.628    4.714    7.711   14.52
Revol R 2.13.2   1.000    0.237    0.515    3.411   13.469   27.095   45.73
Matlab 2011b     1.000    0.260    0.610    0.967    5.768   16.774   25.38
----------------------------------------------------------------------------
                     Times(secs) averaged over 20  runs  

从表4可以看出,虚假的异常已经消失,所有系统的行为都与理论预测的一样。

                          Table 5. Times/Matlab Times

                  A*A    chol(A)   lu(A)    qr(A)    svd(A)  eig(A)   Total
----------------------------------------------------------------------------
R 2.14.1          15      11         8       10       12       7        9
Revol R 2.13.2     2       2         2        7        5       3        4
----------------------------------------------------------------------------
                         Rounded to the nearest integer

1 个答案:

答案 0 :(得分:5)

FWIW您不是在测量分解的时间,而是通过一直转换矩阵来创建的开销。在常规R:

# actual lu call
> system.time(lu(A))
   user  system elapsed 
  0.136   0.000   0.139 
# your code
> system.time(expand(lu(Matrix(A))))
   user  system elapsed 
  0.536   0.000   0.537 

所以很有可能你自己创造了开销。这尤其在分解速度快时很重要。另请注意,考虑到“R”的性能是不明确的,因为R本身的性能会根据您使用的BLAS而变化很大。

(作为旁注 - 您可能希望在基准测试中使用system.time - 您感兴趣的也可能是microbenchmark R包