pthread 比“默认”版本慢

Question

情况

我想看看使用pthread 的优势。如果我没记错的话：线程允许我并行执行程序的给定部分。

这就是我试图完成的事情：我想制作一个程序，它接受一个数字（比如说n）并输出[0..n] 的总和。

代码

#define MAX 1000000000

int
main() {
    long long n = 0;
    for (long long i = 1; i < MAX; ++i)
        n += i;

    printf("\nn: %lld\n", n);
    return 0;
}

时间：0m2.723s

据我了解，我可以简单地将那个数字 MAX 除以 2 并让 2 threads 做好工作。

代码

#define MAX          1000000000
#define MAX_THREADS  2
#define STRIDE       MAX / MAX_THREADS

typedef struct {
    long long off;
    long long res;
} arg_t;

void*
callback(void *args) {
    arg_t *arg = (arg_t*)args;

    for (long long i = arg->off; i < arg->off + STRIDE; ++i)
        arg->res += i;

    pthread_exit(0);
}

int
main() {
    pthread_t threads[MAX_THREADS];
    arg_t     results[MAX_THREADS];

    for (int i = 0; i < MAX_THREADS; ++i) {
        results[i].off = i * STRIDE;
        results[i].res = 0;

        pthread_create(&threads[i], NULL, callback, (void*)&results[i]);
    }

    for (int i = 0; i < MAX_THREADS; ++i)
        pthread_join(threads[i], NULL);

    long long result;
    result = results[0].res;

    for (int i = 1; i < MAX_THREADS; ++i)
        result += results[i].res;

    printf("\nn: %lld\n", result);

    return 0;
}

时间：0m8.530s

问题

pthread 的版本运行速度较慢。从逻辑上讲，这个版本应该运行得更快，但创建线程的成本可能更高。

有人可以提出解决方案或说明我在做什么/理解错误吗？

Answer 1

你的问题是缓存抖动加上缺乏优化（我敢打赌你在没有它的情况下编译）。

天真的 (-O0) 代码

for (long long i = arg->off; i < arg->off + STRIDE; ++i)
    arg->res += i;

将访问*arg 的内存。以这种方式定义您的 results 数组后，该内存非常接近下一个 arg 的内存，并且两个线程将争夺相同的缓存线，从而使 RAM 缓存非常无效。

如果您使用 -O1 进行编译，则循环应改为使用寄存器，并且只在最后写入内存。然后，您应该通过线程获得更好的性能（gcc 上更高的优化级别似乎可以完全优化循环）

另一个（更好的）选择是在缓存行上对齐arg_t：

typedef struct {
    _Alignas(64) /*typical cache line size*/ long long off;
    long long res;
} arg_t;

那么无论你是否开启优化，你都应该通过线程获得更好的性能。

良好的缓存利用率通常在多线程编程中非常重要（Ulrich Drepper 在他臭名昭著的What Every Programmer Should Know About Memory 中对这个话题有很多话要说）。

Answer 2

创建一大堆线程不太可能比简单地添加数字更快。 CPU 可以在内核建立和拆除线程所需的时间内添加大量整数。要看到多线程的好处，您确实需要每个线程都执行一项重要的任务——无论如何，与创建线程的开销相比是重要的。或者，您需要保持线程池运行，并根据某种分配策略分配它们工作。

当应用程序包含一些独立的任务时，多线程最有效，否则这些任务将相互等待完成。这不是获得更多吞吐量的神奇方法。