为什么 MATLAB 在创建随机数方面比 C++ 快？

Question

我在我的项目中使用 MATLAB 已经有一段时间了，但我几乎从未有过 C++ 方面的经验。

我需要速度，我听说 C++ 可以比 MATLAB 更高效、更快。所以我尝试了这个：

我在 MATLAB 上使用 rand(5000,5000) 创建了一个随机数矩阵。

在 C++ 中，我初始化了一个 2D 向量，创建了 2 个 for 循环，每个循环循环 5000 次，每次循环。 MATLAB 快 4-5 倍，所以我认为这是因为 matlab 并行执行矢量化代码，然后我使用 parallel_for 编写了 C++ 代码。代码如下：

#include "stdafx.h"
#include <iostream>
#include <vector>
#include <fstream>
#include <ppl.h>
using namespace std;
using namespace concurrency;
int main();
{
    int a = 5000, b = 5000, j, k;
    vector< vector<int> > vec(a, vector<imt>(b));
    parallel_for(int(0), a, [&](int i) {
        for (j = 0; j <b; j++)
        {
            vec[i][j] = rand();
        }
    });
}

所以上面的代码比 MATLAB 的 rand(5000,5000) 快大约 25%，但 C++ 使用 100% 的 CPU，而 MATLAB 使用 30% 的 CPU。

所以我通过使用rand(5000,5000) 运行 3 个 MATLAB 实例来强制 MATLAB 使用所有 CPU，并将所用时间除以 3。它使 MATLAB 的速度是 C++ 的两倍。

我想知道我错过了什么？我知道这是一个小例子，但我需要一个答案才能确保将我的代码移植到 C++。

当前状态：

当我在没有parallel_for 的情况下编写 C++ 代码时，在 CPU 使用率相同的情况下，我得到了 MATLAB 一半的速度。然而，给出答案的人说他们几乎是一样的。我不明白我错过了什么

这是优化菜单的快照

Answer 1

这可能不是答案，而是一个小提示。 由于使用了vectors，比较可能有点不公平。

这是我写的比较。两者都占用了四个可用线程之一的大约 100%。在这两种情况下，我都会创建 5000x5000 随机数并执行 100 次计时

Matlab

function stackoverflow

tic
for i=1:100
    A =rand(5000);
end
toc

运行时间：~27.9 秒

C++

#include <iostream>
#include <stdlib.h>
#include <time.h>
#include <ctime>

using namespace std;


int main(){

    int N = 5000;
    double ** A = new double*[N];
    for (int i=0;i<N;i++)
        A[i] = new double[N];


    srand(time(NULL));

    clock_t start = clock();
    for (int k=0;k<100;k++){
        for (int i=0;i<N;i++){
            for (int j=0;j<N;j++){
                A[i][j] = rand();
            }
        }
    }

    cout << "T="<< (clock()-start)/(double)(CLOCKS_PER_SEC/1000)<< "ms " << endl;

}

运行时间：~28.7 秒

因此，两个示例的运行速度几乎相同。

Answer 2

当您在 Matlab 中调用 rand(5000,5000) 时，Matlab 通过调用 Intel MKL 库来执行命令，该库是用 C/C++ 编写的高度优化的库，包含大量手工编码的汇编。

MKL 应该比任何直接的 C++ 实现都快，但是 Matlab 调用外部库会产生开销。最终结果是，对于较小尺寸（例如小于 1K）的随机数生成，纯 C/C++ 实现会更快，但对于较大尺寸，Matlab 将受益于超级优化的 MKL。

Answer 3

查看@sonystarmap 的回答后，我添加了几种类型的容器：double*、vector<double> 和vector<vector<double> >。我还添加了“指针容器”为 memset 的测试，因为 vector 初始化所有内存。

使用这些优化标志编译 C++ 代码：-O3 -march=native

结果：

Matlab：经过的时间是 28.457788 秒。

C++：

T=23844.2ms

T=25161.5ms

T=25154ms

T=24197.3ms

T=24235.2ms

T=24166.1ms

我基本上找不到你提到的大收获。

#include <iostream>
#include <stdlib.h>
#include <time.h>
#include <ctime>
#include <vector>
#include <cstring>

using namespace std;


int main(){

    const int N = 5000;

    {
        vector<double> A(N*N);

        srand(0);

        clock_t start = clock();
        for (int k=0;k<100;k++){
            for (int i=0;i<N;i++){
                for (int j=0;j<N;j++){
                    A[i*N+j] = rand();
                }
            }
        }

        cout << "T="<< (clock()-start)/(double)(CLOCKS_PER_SEC/1000)<< "ms " << endl;
    }

    {
        vector<vector<double> > A(N);
        for (int i=0;i<N;i++)
            A[i] = vector<double>(N);

        srand(0);

        clock_t start = clock();
        for (int k=0;k<100;k++){
            for (int i=0;i<N;i++){
                for (int j=0;j<N;j++){
                    A[i][j] = rand();
                }
            }
        }

        cout << "T="<< (clock()-start)/(double)(CLOCKS_PER_SEC/1000)<< "ms " << endl;
    }

    {
        double ** A = new double*[N];
        for (int i=0;i<N;i++)
            A[i] = new double[N];

        srand(0);

        clock_t start = clock();
        for (int k=0;k<100;k++){
            for (int i=0;i<N;i++){
                for (int j=0;j<N;j++){
                    A[i][j] = rand();
                }
            }
        }

        cout << "T="<< (clock()-start)/(double)(CLOCKS_PER_SEC/1000)<< "ms " << endl;
    }

    {
        double ** A = new double*[N];
        for (int i=0;i<N;i++) {
            A[i] = new double[N];
            memset(A[i], 0, sizeof(double) * N);
        }

        srand(0);

        clock_t start = clock();
        for (int k=0;k<100;k++){
            for (int i=0;i<N;i++){
                for (int j=0;j<N;j++){
                    A[i][j] = rand();
                }
            }
        }

        cout << "T="<< (clock()-start)/(double)(CLOCKS_PER_SEC/1000)<< "ms " << endl;
    }

    {
        double * A = new double[N * N];

        srand(0);

        clock_t start = clock();
        for (int k=0;k<100;k++){
            for (int i=0;i<N;i++){
                for (int j=0;j<N;j++){
                    A[i*N + j] = rand();
                }
            }
        }

        cout << "T="<< (clock()-start)/(double)(CLOCKS_PER_SEC/1000)<< "ms " << endl;
    }

    {
        double * A = new double[N * N];
        memset(A, 0, sizeof(double) * N * N);

        srand(0);

        clock_t start = clock();
        for (int k=0;k<100;k++){
            for (int i=0;i<N;i++){
                for (int j=0;j<N;j++){
                    A[i*N + j] = rand();
                }
            }
        }

        cout << "T="<< (clock()-start)/(double)(CLOCKS_PER_SEC/1000)<< "ms " << endl;
    }
}

Answer 4

#include <vector>
#include <iostream>
#include <cstdlib>
#include <ctime>
#include <cstring>

int main() {
  const int N = 5000;
  std::vector<int> A(N*N);
  srand(0);
  clock_t start = clock();
  for(int k = 0; k < 100; ++k){
    for(int i = 0; i < N * N; ++i) {
        A[i] = rand();
    }
  }
  std::cout << (clock()-start)/(double)(CLOCKS_PER_SEC/1000) << "ms" << "\n";
  return 0;
}

从我的工作站上的 25-27 秒，编译器上没有任何优化标志到 21 秒

-O3 -g -Wall -ftree-vectorizer-verbose=5 -msse -msse2 -msse3 -march=native -mtune=native -ffast-math