Question

我在C ++程序中进行了很多矩阵乘法，并且使用了与英特尔MKL（2018.3.222）链接的Eigen（3.3.5）。我使用MKL的顺序版本，并且OpenMP被禁用。问题是它比Matlab慢。

一些示例代码：

#define NDEBUG
#define EIGEN_USE_MKL_ALL

#include <iostream>
#include <chrono>
#include <Core>

using namespace Eigen;
using namespace std;

int main(){
    MatrixXd jac = 100*MatrixXd::Random(10*1228, 2850);
    MatrixXd res = MatrixXd::Zero(2850, 2850);

    for (int i=0; i<10; i++){
        auto begin = chrono::high_resolution_clock::now();
        res.noalias() = jac.transpose()*jac;
        auto end = chrono::high_resolution_clock::now();

        cout<<"time: "<<chrono::duration_cast<chrono::milliseconds>(end-begin).count() <<endl;
    }

    return 0;
}

它平均报告大约8秒。在带有g ++ 6.4的Ubuntu 16.04上使用-O3编译且没有调试符号。

Matlab代码：

m=100*(-1+2*rand(10*1228, 2850));
res = zeros(2850, 2850);
tic; res=m'*m; toc

它报告约4秒，是原来的两倍。我在具有maxNumCompThreads（1）的同一系统上使用了Matlab R2017a。 Matlab使用MKL 11.3。

没有MKL，仅使用Eigen，大约需要18秒。如何使C ++的运行时间降低到与Matlab相同的值？谢谢。

后来编辑：正如@Qubit所建议的那样，Matlab意识到我正在尝试将矩阵与其转置相乘，并进行了一些“隐藏”优化。当我在Matlab中将两个不同的矩阵相乘时，时间增加到了8秒。因此，现在的问题变成了：我怎么能告诉Eigen这个矩阵产品是“特殊的”并且可以进一步优化？

后来编辑2：我尝试这样做：

MatrixXd jac = 100*MatrixXd::Random(10*1228, 2850);
MatrixXd res = MatrixXd::Zero(2850, 2850);

auto begin = chrono::high_resolution_clock::now();
res.selfadjointView<Lower>().rankUpdate(jac.transpose(), 1);
res.triangularView<Upper>() = res.transpose();
auto end = chrono::high_resolution_clock::now();

MatrixXd oldSchool = jac.transpose()*jac;
if (oldSchool.isApprox(res)){
    cout<<"same result!"<<endl;
}
cout<<"time: "<<chrono::duration_cast<chrono::milliseconds>(end-begin).count() <<endl;

，但现在需要9.4秒（这是经典产品不需要MKL的Eigen的一半时间）。禁用MKL对此时间没有时间影响，因此我相信'rankUpdate'方法不使用MKL吗？！？

最后编辑：我在本征头文件中发现了一个错误：

Core/products/GeneralMatrixMatrixTriangular_BLAS.h

在第55行。括号放错了位置。我改变了这个：

if ( lhs==rhs && ((UpLo&(Lower|Upper)==UpLo)) ) { \

对此：

if ( lhs==rhs && ((UpLo&(Lower|Upper))==UpLo) ) { \

现在，我的C ++版本和Matlab具有相同的执行速度（在我的系统上约为4秒）。

Answer 1

要真正回答，因为您已经找到了问题，但有一些评论：

问题Core/products/GeneralMatrixMatrixTriangular_BLAS.h已在devel分支中得到解决，但事实证明，它从未被推广到3.3分支。
问题现在在{3.3}分支中fixed。该修复程序将成为3.3.6的一部分。
单线程模式下内置Eigen与MKL之间的加速因子x2没有意义。除-march=native之外，还请通过-O3 -DNDEBUG进行编译，以确保启用CPU支持的所有功能。在我的Haswell 2.6 GHz处理器上，我得到3.4秒与3秒。

对于矩阵乘法，本征+ MKL比Matlab慢

1 个答案: