使用Eigen的性能比使用我自己的类更差

Worse performance using Eigen than using my own class

本文关键字:自己的 我自己 Eigen 性能比 使用      更新时间:2023-10-16

几周前,我问了一个关于矩阵乘法性能的问题。

有人告诉我,为了提高程序的性能,我应该使用一些专门的矩阵类,而不是我自己的类。

StackOverflow用户推荐:

  • uBLAS
  • 本征
  • 爆破

起初我想使用uBLAS,但阅读文档后发现这个库不支持矩阵矩阵乘法。

毕竟,我决定使用EIGEN库。因此,我将矩阵类交换为Eigen::MatrixXd,但事实证明,现在我的应用程序工作速度比以前还要慢。使用EIGEN之前的时间是68秒,将我的矩阵类交换到EIGEN矩阵程序之后运行87秒。

程序中耗时最多的部分看起来像

TemplateClusterBase* TemplateClusterBase::TransformTemplateOne( vector<Eigen::MatrixXd*>& pointVector, Eigen::MatrixXd& rotation ,Eigen::MatrixXd& scale,Eigen::MatrixXd& translation )
{   
    for (int i=0;i<pointVector.size();i++ )
    {
        //Eigen::MatrixXd outcome =
        Eigen::MatrixXd outcome = (rotation*scale)* (*pointVector[i])  + translation;
        //delete  prototypePointVector[i];      // ((rotation*scale)* (*prototypePointVector[i])  + translation).ConvertToPoint();
        MatrixHelper::SetX(*prototypePointVector[i],MatrixHelper::GetX(outcome));
        MatrixHelper::SetY(*prototypePointVector[i],MatrixHelper::GetY(outcome));
        //assosiatedPointIndexVector[i]    = prototypePointVector[i]->associatedTemplateIndex = i;
    }
    return this;
}

Eigen::MatrixXd AlgorithmPointBased::UpdateTranslationMatrix( int clusterIndex )
{
    double membershipSum = 0,outcome = 0;
    double currentPower = 0;
    Eigen::MatrixXd outcomePoint = Eigen::MatrixXd(2,1);
    outcomePoint << 0,0;
    Eigen::MatrixXd templatePoint;
    for (int i=0;i< imageDataVector.size();i++)
    {
        currentPower =0; 
        membershipSum += currentPower = pow(membershipMatrix[clusterIndex][i],m);
        outcomePoint.noalias() +=  (*imageDataVector[i] - (prototypeVector[clusterIndex]->rotationMatrix*prototypeVector[clusterIndex]->scalingMatrix* ( *templateCluster->templatePointVector[prototypeVector[clusterIndex]->assosiatedPointIndexVector[i]]) ))*currentPower ;
    }
    outcomePoint.noalias() = outcomePoint/=membershipSum;
    return outcomePoint; //.ConvertToMatrix();
}

正如您所看到的,这些函数执行许多矩阵运算。这就是为什么我认为使用Eigen可以加快我的应用程序。不幸的是(正如我上面提到的),该程序运行速度较慢。

有没有办法加快这些功能?

也许如果我使用DirectX矩阵操作,我会得到更好的性能??(不过我有一台集成显卡的笔记本电脑)。

确保打开编译器优化(例如,至少打开gcc上的-O2)。Eigen是大量模板化的,如果你不打开优化,它将不会表现得很好。

如果您使用的是Eigen的MatrixXd类型,则这些类型是动态调整大小的。使用固定大小的类型(例如Matrix4dVector4d)应该会得到更好的结果。

此外,请确保您正在进行编译,以便可以对代码进行矢量化;请参阅相关的Eigen文档。

关于使用Direct3D扩展库的想法(D3DXMIX等):图形几何(4x4变换等)可以(如果有点过时的话),但它肯定不是GPU加速的(我认为只是很好的旧SSE)。另外,请注意,它只是浮点精度(您似乎已经习惯了使用双精度)。就我个人而言,我更喜欢使用Eigen,除非我真的在编写Direct3D应用程序。

您使用的是哪种版本的Eigen?他们最近发布了3.0.1,它应该比2.x更快。此外,请确保您使用编译器选项。例如,确保SSE正在VisualStudio:中使用

C/C++-->代码生成-->启用增强指令集

您应该先分析并优化算法,然后再优化实现。特别是,张贴的代码效率很低:

for (int i=0;i<pointVector.size();i++ )
{
   Eigen::MatrixXd outcome = (rotation*scale)* (*pointVector[i])  + translation;

我不知道这个库,所以我甚至不会猜测你正在创建的不必要的临时库的数量,而是一个简单的重构:

Eigen::MatrixXd tmp = rotation*scale;
for (int i=0;i<pointVector.size();i++ )
{
   Eigen::MatrixXd outcome = tmp*(*pointVector[i])  + translation;

可以为您节省大量昂贵的乘法运算(以及可能立即丢弃的新临时矩阵)。

几个点。

  1. 为什么要在循环内乘以旋转*比例,而每次迭代的乘积都是相同的值?这是浪费了很多精力。

  2. 您使用的是动态大小的矩阵,而不是固定大小的矩阵。其他人已经提到了这一点,而你说你剃掉了2秒的

  3. 您将参数作为指向矩阵的指针向量进行传递。这增加了一个额外的指针间接性,并破坏了对数据局部性的任何保证,这将导致较差的缓存性能。

  4. 我希望这不是侮辱性的,但你是在Release还是Debug中编译?Eigen在调试构建中非常慢,因为它使用了许多琐碎的模板化函数,这些函数在发布后进行了优化,但仍在调试中。

查看您的代码,我不太愿意将性能问题归咎于Eigen。然而,大多数线性代数库(包括Eigen)并不是真正为大量微小矩阵的用例而设计的。通常,Eigen将更好地针对100x100或更大的矩阵进行优化。您最好使用自己的矩阵类或DirectX数学辅助类。DirectX数学类完全独立于您的视频卡。

回顾您上一篇文章和其中的代码,我的建议是使用旧代码,但通过移动来提高其效率。我发布上一个问题是为了将答案分开。