隐式线程与显式线程性能[关闭]

Question

我正在用 C# 并行化一个应用程序，并且正在测试使用隐式线程与显式线程之间的性能差异。两种技术都使用System.Threading 库，隐式线程的特点是使用Parallel.For 循环，而显式线程涉及创建、启动和加入线程，同时还计算块大小、调用工作函数等。

我发现通过在 8 个内核上使用显式线程（经过 50 次试验后速度提高了大约 1.2 倍），我可以比程序的原始顺序版本实现更好的加速。我了解这两种技术之间的潜在差异，但是，我不确定为什么显式版本似乎更快。我认为也许隐式版本会更快，因为任务会自动安排，而不是手动任务和线程创建。是否有理由（除了我的结果中可能存在错误）显式版本会更快？

作为参考，下面可以看到相关代码的总结版本。

float[][] stft_implicit(Complex[] x, int wSamp)
{
    //...
    Parallel.For(0, size, new ParallelOptions { MaxDegreeOfParallelism = MainWindow.NUM_THREADS }, ii =>
    {
        Complex[] tempFFT = IterativeFFT.FFT(all_temps[ii], twiddles, wSamp);
        fft_results[ii] = tempFFT;
    });
    //...
}

float[][] stft_explicit(Complex[] x, int wSamp)
{
    //...
    length = (int)(2 * Math.Floor((double)N / (double)wSamp) - 1);
    chunk_size = (length + MainWindow.NUM_THREADS - 1) / MainWindow.NUM_THREADS;

    Thread[] threads = new Thread[MainWindow.NUM_THREADS];

    for (int i = 0; i < MainWindow.NUM_THREADS; i++)
    {
        threads[i] = new Thread(fft_worker);
        threads[i].Start(i);
    }

    for (int i = 0; i < MainWindow.NUM_THREADS; i++)
    {
        threads[i].Join();
    }
    //...
}

public void fft_worker(object thread_id)
{
    int ID = (int)thread_id;
    Complex[] temp = new Complex[wSamp];
    Complex[] tempFFT = new Complex[wSamp];
    int start = ID * chunk_size;
    int end = Math.Min(start + chunk_size, length);

    for (int ii = start; ii < end; ii++)
    {
        //...
        tempFFT = IterativeFFT.FFT(temp, twiddles, wSamp);
        //...
    }
}

Answer 1

我认为Parallel.For 的比较是不公平的，因为它必须为已处理数组的每个元素调用一个匿名 lambda，而显式线程实现涉及每个线程的单个方法调用（fft_worker方法）。更重要的是 C# 编译器的匿名 lambdas cannot be inlined。

要恢复比较的公平性，您可以：

1. 在显式线程实现中也包括匿名 lambda 调用的开销：

for (int ii = start; ii < end; ii++)
{
    ((Action)(() =>
    {
        //...
        tempFFT = IterativeFFT.FFT(temp, twiddles, wSamp);
        //...
    }))();
}

1. 通过将Parallel.For 替换为Parallel.ForEach+Partitioner 组合来降低隐式线程实现的粒度（或者换句话说，增加块度）：

Parallel.ForEach(Partitioner.Create(0, size), range =>
{
    for (int ii = range.Item1; ii < range.Item2; ii++)
    {
        Complex[] tempFFT = IterativeFFT.FFT(all_temps[ii], twiddles, wSamp);
        fft_results[ii] = tempFFT;
    }
});

我还没有测试过，但是这两个建议应该可以缩小或消除两种并行化技术的性能差距。