openMP 不会提高整体性能

Question

我正在使用 c++ dll 来进行一些计算密集型处理——我的 c++ 使用线程——并在我的 c# 应用程序中使用这个 dll。

我使用 MS Visual Studio Profiler 来识别最耗时的代码部分。

并使用 openMP 通过在运行 @2.9GHz 的 Intel i7 8 核处理器之间分配工作负载来提高性能。

例如下面的代码会消耗大量的cpu时间

for (short j = 0; j < 4096; j++)
    histsum[j] = hist_tmp[row][col][0][j] + hist_tmp[row][col][1][j] + hist_tmp[row][col][2][j] + hist_tmp[row][col][3][j];

所以我修改为

#pragma omp parallel for
                for (short j = 0; j < 4096; j++)
                    histsum[j] = hist_tmp[row][col][0][j] + hist_tmp[row][col][1][j] + hist_tmp[row][col][2][j] + hist_tmp[row][col][3][j];

我注意到 8 核是 100% 加载的，但整体性能并没有提高。

可能是什么问题？我该如何克服它？

Answer 1

C++ 和多线程都不会自动提高性能。两者都需要在适当的地方应用才能获得任何好处。

使用多线程有一些开销来委派工作和同步结果。如果每个任务都很小，那么开销将大于任何可能的收益。将四个数字加在一起绝对是很小的，这很有用。您需要将多线程应用于更大的数据块才能发挥作用。

我也不希望通过使用 c++ 编写这样的代码来获得任何巨大的收益。 C++ 编译器通常更擅长优化代码，但对于像这样的简单代码，即使是 c# 编译器也应该做得不错。通过将索引hist_tmp[row][col] 移到循环外，您可能会看到一些小的改进。这个索引可能已经被优化掉了，但它可能值得一试。

然而，这种代码应该受益于 SIMD。一些 c++ 编译器具有自动矢量化选项。为了从 c# 中获得最佳性能，.net core 中有intrinstics。

非常重要的一点是使用适合平台的工具衡量性能。在 c# 中，这将是 stopwatch，但建议使用像 benchmark.net 这样的工具，因为它们可以处理诸如编译开销之类的事情。一个好的分析器也非常有用。

我还建议在使用多线程和 C++ 之前寻找任何算法改进、缓存机会或其他不必要或重复的工作。前者通常会对性能产生更大的影响。