【问题标题】:Parallel.For with BigInteger calculations output different than For loopParallel.For 与 BigInteger 计算输出不同于 For 循环
【发布时间】:2019-02-12 08:44:00
【问题描述】:

我有以下循环运行从 base95 到 base10 的转换。我正在处理几千位数字,因此需要 BigIntegers。 inst 是 base95 字符串。

Parallel.For(0, inst.Length, x => 
     {
        result += BigInteger.Pow(95, x) * (inst[x] - 32);
     });

如果我使用大约 200 个字符或更少字符的 base95 字符串,它可以正常工作并输出与普通 for 循环相同的结果。

但是,一旦我开始增加 base95 字符串的大小,并行的输出就会被抛出。我需要使用具有 1500 多个字符的 base95 字符串,甚至最多 30000 个字符。常规的 for 循环可以很好地计算结果。

什么可能导致这个问题?有没有比Parallel.For 循环更好的方法,它仍然比for 循环更快?

【问题讨论】:

    标签: c# biginteger parallel.for


    【解决方案1】:

    它只是不是线程安全的。至于为什么它不会用较小的字符串损坏,我不确定。可能 TPL 只是认为工作负载不值得额外线程。虽然,我确实验证了您的结果,但它确实会产生与较大字符串不一致的结果。

    唯一的解决方案是使其线程安全。一种廉价而讨厌的方法是使用lock...如果您可以使用另一种线程安全的方法,例如Interlocked,那就更好了,但是,它不适用于BigInteger

    BigInteger result = 0;
    object sync = new object();
    
    Parallel.For(
       0,
       inst.Length,
       x =>
          {
             var temp = BigInteger.Pow(95, x) * (inst[x] - 32);
             lock (sync)
                result += temp;
          });
    

    它的所有锁定并不完美,但它仍然比我电脑上的常规 for 循环更快

    另一种方法是使用 for 重载,这样每个线程只锁定一次。

    Parallel.For(
       0,
       inst.Length,
       () => new BigInteger(0),
       (x, state, subTotal) => subTotal + BigInteger.Pow(95, x) * (inst[x] - 32),
       integer =>
          {
             lock (sync)
                result += integer;
          });
    

    基准测试

    所以我很无聊,这是你的基准

    每个测试运行 50 次,GC.CollectGC.WaitForPendingFinalizers 在每次测试之前运行以提供更清晰的结果。所有结果都经过相互测试,以证明它们是准确的。 Scale 表示根据您的问题的字符串大小

    设置

    ----------------------------------------------------------------------------
    Mode             : Release (64Bit)
    Test Framework   : .NET Framework 4.7.1 (CLR 4.0.30319.42000)
    ----------------------------------------------------------------------------
    Operating System : Microsoft Windows 10 Pro
    Version          : 10.0.17134
    ----------------------------------------------------------------------------
    CPU Name         : Intel(R) Core(TM) i7-3770K CPU @ 3.50GHz
    Description      : Intel64 Family 6 Model 58 Stepping 9
    Cores (Threads)  : 4 (8)      : Architecture  : x64
    Clock Speed      : 3901 MHz   : Bus Speed     : 100 MHz
    L2Cache          : 1 MB       : L3Cache       : 8 MB
    ----------------------------------------------------------------------------
    

    结果

    --- Random characters -----------------------------------------------------------------
    | Value          |    Average |    Fastest |    Cycles | Garbage | Test |        Gain |
    --- Scale 10 ----------------------------------------------------------- Time 0.259 ---
    | for            |   5.442 µs |   4.968 µs |  21.794 K | 0.000 B | Base |      0.00 % |
    | ParallelResult |  32.451 µs |  30.397 µs | 116.808 K | 0.000 B | Pass |   -496.25 % |
    | ParallelLock   |  35.551 µs |  32.443 µs | 127.966 K | 0.000 B | Pass |   -553.22 % |
    | AsParallel     | 141.457 µs | 118.959 µs | 398.676 K | 0.000 B | Pass | -2,499.13 % |
    --- Scale 100 ---------------------------------------------------------- Time 0.298 ---
    | ParallelResult |  93.261 µs |  80.085 µs | 329.450 K | 0.000 B | Pass |     11.36 % |
    | ParallelLock   | 103.912 µs |  84.470 µs | 366.599 K | 0.000 B | Pass |      1.23 % |
    | for            | 105.210 µs |  93.823 µs | 371.025 K | 0.000 B | Base |      0.00 % |
    | AsParallel     | 183.538 µs | 159.002 µs | 488.534 K | 0.000 B | Pass |    -74.45 % |
    --- Scale 1,000 -------------------------------------------------------- Time 4.191 ---
    | AsParallel     |   5.701 ms |   4.932 ms |  15.479 M | 0.000 B | Pass |     65.83 % |
    | ParallelResult |   6.510 ms |   5.701 ms |  18.166 M | 0.000 B | Pass |     60.98 % |
    | ParallelLock   |   6.734 ms |   5.303 ms |  17.314 M | 0.000 B | Pass |     59.64 % |
    | for            |  16.685 ms |  15.640 ms |  58.183 M | 0.000 B | Base |      0.00 % |
    --- Scale 10,000 ------------------------------------------------------ Time 34.805 ---
    | AsParallel     |    6.205 s |    4.767 s |  19.202 B | 0.000 B | Pass |     47.20 % |
    | ParallelResult |    6.286 s |    5.891 s |  14.752 B | 0.000 B | Pass |     46.51 % |
    | ParallelLock   |    6.290 s |    5.202 s |   9.982 B | 0.000 B | Pass |     46.48 % |
    | for            |   11.752 s |   11.436 s |  41.136 B | 0.000 B | Base |      0.00 % |
    ---------------------------------------------------------------------------------------
    

    平行锁

    [Test("ParallelLock", "", true)]
    public BigInteger Test1(string input, int scale)
    {
       BigInteger result = 0;
       object sync = new object();
    
       Parallel.For(
          0,
          input.Length,
          x =>
             {
                var temp = BigInteger.Pow(95, x) * (input[x] - 32);
                lock (sync)
                   result += temp;
             });
    
       return result;
    }
    

    并行结果

    [Test("ParallelResult", "", false)]
    public BigInteger Test2(string input, int scale)
    {
       BigInteger result = 0;
       object sync = new object();
       Parallel.For(
          0,
          input.Length,
          () => new BigInteger(0),
          (x, state, subTotal) => subTotal + BigInteger.Pow(95, x) * (input[x] - 32),
          integer =>
             {
                lock (sync)
                   result += integer;
             });
       return result;
    }
    

    AsParallelgdir

    投标
    [Test("AsParallel", "", false)]
    public BigInteger Test4(string input, int scale)
    {
       return Enumerable.Range(0, input.Length)
                        .AsParallel()
                        .Aggregate(
                            new BigInteger(0),
                            (subtotal, x) => subtotal + BigInteger.Pow(95, x) * (input[x] - 32),
                            (total, thisThread) => total + thisThread,
                            (finalSum) => finalSum);;
    }
    

    [Test("for", "", false)]
    public BigInteger Test3(string input, int scale)
    {       
       BigInteger result = 0;
       for (int i = 0; i < input.Length; i++)
       {
          result += BigInteger.Pow(95, i) * (input[i] - 32);
       }
       return result;
    }
    

    输入

    public static string StringOfChar(int scale)
    {
       var list = Enumerable.Range(1, scale)
                            .Select(x => (char)(_rand.Next(32)+32))
                            .ToArray();
       return string.Join("", list);
    } 
    

    验证

    private static bool Validation(BigInteger result, BigInteger baseLine)
    {
       return result == baseLine;
    }
    

    总结

    Parallel 会给您带来性能提升,理论上您可以锁定的越少越好,但是可能有很多因素导致结果以他们的方式发挥作用。结果重载似乎运行良好,但与较大的工作负载非常相似,我不太确定为什么。请注意,我没有使用并行选项,您可能可以针对您的解决方案对其进行更多调整

    祝你好运

    【讨论】:

    • 优秀的答案。您介意为 LINQ AsParallel 添加一个基准吗?
    • @gdir 已更新,但在接下来的一个小时内会进行更彻底的测试。它确实表现良好,并且是一个非常简洁的解决方案
    • 我自己使用 ParallelResult 方法和大约 31k 个字符进行了测试。它不仅快了 6 分钟,而且还输出了正确的结果。谢谢!标记为答案。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多