在线程中运行的任务比在串行中运行的时间更长？

Question

所以我在 400 万个节点上做一些计算。

非常酷的串行版本只有一个 for 循环，循环 400 万次并进行 400 万次计算。这大约需要 1.2 秒。

当我将 for 循环拆分为 4 个 for 循环并且每个循环执行 1/4 的计算时，总时间变为 1.9 秒。

我猜在创建 for 循环时会有一些开销，并且可能与 cpu 喜欢以块计算数据有关。

真正困扰我的是，当我尝试在 8 核机器上将 4 个循环放到 4 个线程上时，每个线程需要 0.9 秒才能完成。 我希望他们每个人只需要 1.9/4 秒。

我不认为有任何竞争条件或同步问题，因为我所做的只是有一个 for 循环来创建 4 个线程，这需要 200 微秒。然后一个 for 循环将它们连接起来。

计算从共享数组读取并写入不同的共享数组。 我确信他们没有写入同一个字节。

开销从何而来？

main: ncores: 核心数。 node_size：图的大小（400万节点）

        for(i = 0 ; i < ncores ; i++){
            int *t = (int*)malloc(sizeof(int));
            *t = i;
            int iret = pthread_create( &thread[i], NULL, calculate_rank_p, (void*)(t));

        }
        for (i = 0; i < ncores; i++)
        {
            pthread_join(thread[i], NULL);
        }

calculate_rank_p：vector为页面排名计算的排名向量

Void *calculate_rank_pthread(void *argument) {
    int index = *(int*)argument;
    for(i = index; i < node_size ; i+=ncores)     
       current_vector[i] = calc_r(i, vector);
    return NULL;     
}

calc_r：这只是使用压缩行格式的页面排名计算。

double calc_r(int i, double *vector){
    double prank = 0;
    int j;
    for(j = row_ptr[i]; j < row_ptr[i+1]; j++){
        prank += vector[col_ind[j]] * val[j];
    }
    return prank;
}

所有未声明的都是全局变量

Answer 1

计算从共享数组读取并写入不同的共享数组。我确信他们没有写入同一个字节。

如果不查看相关代码并了解更多详细信息，就无法确定，但这听起来可能是由于虚假共享，或者......

错误共享的性能问题（也称为缓存行乒乓），其中线程使用不同的对象，但这些对象恰好在内存中足够接近，以至于它们落在同一缓存行上，并且缓存系统将它们视为由硬件写锁有效保护的单个块，一次只能持有一个内核。这会导致真实但无形的性能竞争；无论哪个线程当前拥有独占所有权，以便它可以对缓存行进行物理更新，都会默默地限制尝试使用位于同一行的不同（但是，唉，附近）数据的其他线程。

http://www.drdobbs.com/parallel/eliminate-false-sharing/217500206

更新

这看起来很可能触发错误共享，具体取决于向量的大小（尽管帖子中仍然没有足够的信息可以确定，因为我们看不到各种 vector 是如何分配的.

for(i = index; i < node_size ; i+=ncores) 

i += ncores 不是交错处理哪个核心处理哪些数据，而是为每个核心提供一个处理数据范围。