在 64 位机器上，我可以安全地并行处理 64 位四字的各个字节吗？

Question

背景

我正在对图像中的行和列进行并行操作。我的图像是 8 位或 16 位像素，我在 64 位机器上。 当我对列进行并行操作时，两个相邻的列可能共享相同的 32 位 int 或 64 位 long。基本上，我想知道我是否可以安全地并行操作同一个四字的各个字节。

最小测试

我编写了一个最小的测试函数，但我无法使其失败。对于 64 位 long 中的每个字节，我同时在顺序有限的域 p 中执行连续乘法。我知道Fermat's little theorem a^(p-1) = 1 mod p 当p 是素数时。我为我的 8 个线程中的每一个更改了 a 和 p 的值，并执行了 k*(p-1) 与 a 的乘法运算。当线程完成时，每个字节应该是 1。事实上，我的测试用例通过了。每次运行时，我都会得到以下输出：

8
101010101010101
101010101010101

我的系统是 Linux 4.13.0-041300-generic x86_64，配备 8 核 Intel(R) Core(TM) i7-7700HQ CPU @ 2.80GHz。我用 g++ 7.2.0 -O2 编译并检查了程序集。我添加了“INNER LOOP”的程序集并对其进行了评论。在我看来，生成的代码是安全的，因为存储只是将低 8 位写入目标，而不是进行一些按位算术并存储到整个字或四字。 g++ -O3 生成类似代码。

问题：

我想知道这段代码是否总是线程安全的，如果不是，在什么情况下它不是。也许我很偏执，但我觉得为了安全起见，我需要一次对四字进行操作。

#include <iostream>
#include <pthread.h>

class FermatLTParams
{
public:
    FermatLTParams(unsigned char *_dst, unsigned int _p, unsigned int _a, unsigned int _k)
        : dst(_dst), p(_p), a(_a), k(_k) {}

    unsigned char *dst;
    unsigned int p, a, k;
};

void *PerformFermatLT(void *_p)
{  
    unsigned int j, i;
    FermatLTParams *p = reinterpret_cast<FermatLTParams *>(_p);
    for(j=0; j < p->k; ++j)
    {    
        //a^(p-1) == 1 mod p

        //...BEGIN INNER LOOP
        for(i=1; i < p->p; ++i)
        {
            p->dst[0] = (unsigned char)(p->dst[0]*p->a % p->p);
        }
        //...END INNER LOOP

        /* gcc 7.2.0 -O2  (INNER LOOP)

        .L4:
            movq    (%rdi), %r8             # r8 = dst
            xorl    %edx, %edx              # edx = 0
            addl    $1, %esi                # ++i
            movzbl  (%r8), %eax             # eax (lower 8 bits) = dst[0]
            imull   12(%rdi), %eax          # eax =  a * eax
            divl    %ecx                    # eax = eax / ecx;   edx = eax % ecx    
            movb    %dl, (%r8)              # dst[0] = edx (lower 8 bits)
            movl    8(%rdi), %ecx           # ecx = p
            cmpl    %esi, %ecx              # if (i < p)
            ja      .L4                     #   goto L4
        */

    }
    return NULL;
}

int main(int argc, const char **argv)
{
    int i;
    unsigned long val = 0x0101010101010101; //a^0 = 1
    unsigned int k = 10000000;
    std::cout << sizeof(val) << std::endl;
    std::cout << std::hex << val << std::endl;
    unsigned char *dst = reinterpret_cast<unsigned char *>(&val);
    pthread_t threads[8];
    FermatLTParams params[8] = 
    { 
        FermatLTParams(dst+0, 11, 5, k),
        FermatLTParams(dst+1, 17, 8, k),
        FermatLTParams(dst+2, 43, 3, k),
        FermatLTParams(dst+3, 31, 4, k),
        FermatLTParams(dst+4, 13, 3, k),
        FermatLTParams(dst+5, 7, 2, k),
        FermatLTParams(dst+6, 11, 10, k),
        FermatLTParams(dst+7, 13, 11, k)
    };

    for(i=0; i < 8; ++i)
    {
        pthread_create(threads+i, NULL, PerformFermatLT, params+i);
    }
    for(i=0; i < 8; ++i)
    {
        pthread_join(threads[i], NULL);
    }

    std::cout << std::hex << val << std::endl;
    return 0;
}

Answer 1

答案是肯定的，您可以通过不同的线程安全地对 64 位四字的各个字节进行并行操作。

它的工作原理令人惊讶，但如果它不起作用，那将是一场灾难。所有硬件的行为都好像一个内核在其自己的内核中写入一个字节，不仅标记高速缓存线是脏的，而且还标记了其中的哪些字节。当缓存线（64 或 128 甚至 256 字节）最终被写入主存时，只有脏字节实际修改了主存。这是必不可少的，否则当两个线程在处理碰巧占用同一缓存行的独立数据时，它们会互相丢弃对方的结果。

这可能对性能不利，因为它的工作方式部分是通过“缓存一致性”的魔力，当一个线程写入一个字节时，系统中具有相同数据行的所有缓存都会受到影响。如果它们是脏的，它们需要写入主内存，然后要么删除高速缓存行，要么从另一个线程捕获更改。有各种不同的实现方式，但通常都很昂贵。