Matlab + CUDA在求解矩阵向量方程A * x = B方面很慢

时间:2013-02-16 00:52:41

标签: performance matlab matrix cuda linear-algebra

我正在计算方程A * x = B,其中A是矩阵,B是矢量,x是答案(未知)矢量。

硬件规格: 英特尔i7 3630QM(4核), nVidia GeForce GT 640M(384 CUDA核心)

以下是一个例子:

>> A=rand(5000);

>> B=rand(5000,1);

>> Agpu=gpuArray(A);

>> Bgpu=gpuArray(B);

>> tic;A\B;toc;

Elapsed time is 1.382281 seconds.

>> tic;Agpu\Bgpu;toc;

Elapsed time is 4.775395 seconds.

不知何故GPU慢得多......为什么?它在FFT,INV,LU计算中也较慢,这应该与矩阵划分有关。

然而,GPU在矩阵乘法(相同的数据)中要快得多:

>> tic;A*B;toc;

Elapsed time is 0.014700 seconds.

>> tic;Agpu*Bgpu;toc;

Elapsed time is 0.000505 seconds.

主要问题是为什么GPU A \ B(mldivide)与CPU相比这么慢?

已更新

当A,B(在CPU上),AA,BB(在GPU上)为rand(5000)时,以下是更多结果:

>> tic;fft(A);toc;
Elapsed time is *0.117189 *seconds.
>> tic;fft(AA);toc;
Elapsed time is 1.062969 seconds.
>> tic;fft(AA);toc;
Elapsed time is 0.542242 seconds.
>> tic;fft(AA);toc;
Elapsed time is *0.229773* seconds.
>> tic;fft(AA);toc;

大胆的时间是稳定的时期。然而GPU几乎慢了两倍。顺便说一句,为什么GPU在前两次尝试中更慢?是先编译两次吗?

另外:

>> tic;sin(A);toc;
Elapsed time is *0.121008* seconds.
>> tic;sin(AA);toc;
Elapsed time is 0.020448 seconds.
>> tic;sin(AA);toc;
Elapsed time is 0.157209 seconds.
>> tic;sin(AA);toc;
Elapsed time is *0.000419 *seconds

经过两次计算后,GPU在罪恶计算中的速度非常快。

那么,为什么GPU在矩阵除法,fft和类似的计算中如此缓慢,尽管它在矩阵乘法和三角函数中如此之快?问题实际上不应该是这样......在所有这些计算中GPU应该更快,因为Matlab已经为GPU发布了重叠函数(mldivide,fft)。

请问有人帮我解决这些问题吗? :)

2 个答案:

答案 0 :(得分:4)

请阅读Matlab如何计算解决方案。它将帮助您理解为什么GPU速度较慢。

我会试着用几句话说出来。

A * x = b变为L *(U * x = y)= b,L * U = A

  1. 因此Matlab将A转换为L * U(此过程无法完全并行完成 据我所知,一些步骤可以并行进行,因为 他们的天性)
  2. 然后Matlab求解L * y = B并找到y。 (这个过程无法完成 并行,因为每个步骤都需要前面的数据)
  3. 然后Matlab解决U * x = y并找到x。 (这个过程无法完成 并行,因为每个步骤都需要前面的数据)
  4. 因此GPU时钟比CPU慢,并且由于进程不能并行完成,因此CPU速度更快。不,除非你提出一个更好的方法(祝你好运!)然后GPU总是会变慢,除非在一些非常特殊的情况下。

答案 1 :(得分:1)

解释的第1部分来自user2230360的回答,但你的问题是双重的,所以我将添加一些关于乘法的内容。

如前所述,即使某些步骤可以,LU分解也不是很容易并行化。然而,矩阵乘法是非常可并行化的。如果您正在使用这些东西,您应该能够手工进行矩阵乘法,然后您就会知道在A * B = C中计算矩阵C的元素可以按您想要的任何顺序进行 - 因此可能性用于并行计算。这可能就是为什么你看到闪电般的快速乘法,但线性系统的解决速度很慢。一个人不能“和另一个人一样”并行化。