Scala Futures 很慢，有很多内核答案

【问题标题】：Scala Futures are slow with many coresScala Futures 很慢，有很多内核
【发布时间】：2012-12-24 00:47:53
【问题描述】：

对于一个研究项目，我编写了一个 Scala 应用程序，它使用一堆期货来进行并行计算。我注意到在我的本地机器（4 核）上，代码运行速度比在我们计算机科学研究所的多核服务器（64 核）上运行得更快。现在我想知道这是为什么。

任务详解

任务是创建随机布尔 k-CNF 公式，其中 n 个不同变量随机分布在 m 个子句中，然后查看在哪个 m/n 组合下，对于不同的随机分布，公式可解的概率如何降至 50% 以下。为此，我实现了一个概率 k-SAT 算法、一个子句生成器和一些其他代码。核心是一个函数，它接受 n 和 m es 以及生成器函数，运行 100 个期货并等待结果。函数如下所示：

有问题的代码

def avgNonvalidClauses(n: Int, m: Int)(implicit clauseGenerator: ClauseGenerator) = {

    val startTime = System.nanoTime

    /** how man iteration to build the average **/
    val TRIES = 100

    // do TRIES iterations in parallel 
    val tasks = for (i <- 0 until TRIES) yield future[Option[Config]] {
        val clause = clauseGenerator(m, n)
        val solution = CNFSolver.probKSat(clause)
        solution
    }

    /* wait for all threads to finish and collect the results. we will only wait
     * at most TRIES * 100ms (note: flatten filters out all
     * None's) */
    val results = awaitAll(100 * TRIES, tasks: _*).asInstanceOf[List[Option[Option[Config]]]].flatten

    val millis = Duration(System.nanoTime - startTime, NANOSECONDS).toMillis
    val avg = (results count (_.isDefined)) /  results.length.toFloat

    println(s"n=$n, m=$m => $avg ($millis ms)")

    avg
  }

问题

在我的本地机器上我得到了这些结果

[info] Running Main 
n=20, m=120 => 0.0 (8885 ms)
n=21, m=121 => 0.0 (9115 ms)
n=22, m=122 => 0.0 (8724 ms)
n=23, m=123 => 0.0 (8433 ms)
n=24, m=124 => 0.0 (8544 ms)
n=25, m=125 => 0.0 (8858 ms)
[success] Total time: 53 s, completed Jan 9, 2013 8:21:30 PM

在 64 核服务器上我得到：

[info] Running Main 
n=20, m=120 => 0.0 (43200 ms)
n=21, m=121 => 0.0 (38826 ms)
n=22, m=122 => 0.0 (38728 ms)
n=23, m=123 => 0.0 (32737 ms)
n=24, m=124 => 0.0 (41196 ms)
n=25, m=125 => 0.0 (42323 ms)
[success] Total time: 245 s, completed 09.01.2013 20:28:22

但是，我在两台机器上都满负荷运行（服务器平均负载在 60 到 65 左右），因此运行了足够多的线程。为什么是这样？我做错了什么吗？

我的本地机器有一个“AMD Phenom(tm) II X4 955 Processor”CPU，服务器使用的是“AMD Opteron(TM) Processor 6272”。本地 CPU 有 6800 bogomips，服务器有 4200。因此，虽然本地 CPU 快 1/3，但服务器上的 cors 多 12 倍。

附加

如果有我的代码的精简示例推送到 github，如果您有兴趣可以自己尝试：https://github.com/Blattlaus/algodemo（这是一个使用 Scala 2.10 的 sbt 项目）。

更新

我已经通过在随机数生成器中植入 42 来消除任何随机性。这不会改变任何事情
我更改了测试集。现在结果更加惊人（服务器慢了 5 倍！）注意：由于输入的原因，所有不可解决子句的平均百分比的输出都是零。这是正常的，也是意料之中的。
添加了有关 CPU 的信息
我注意到调用 Random.nextInt() 在服务器上慢了 10 倍。我已经将所有调用包装在一个帮助程序中，该帮助程序测量打印到控制台的运行时间（如果它们慢于 10 毫秒）。在我的本地机器上，我得到了一些，通常在 10-20 毫秒左右。在服务器上，我接到了很多电话，它们往往超过 100 毫秒。会不会是这个问题？？？

【问题讨论】：

64 核服务器在尝试执行您的任务时还执行了多少其他任务？
您的第二组没有返回任何结果（全部为NaN）。也许也可以尝试计时，看看实际需要多长时间才能产生结果。另外，与您的本地计算机相比，内核的速度有多快？
@RobertHarvey afaik Scala 的默认执行程序为每个内核创建 2 个线程，因此应该有 128 个线程和 100 个正在运行（每个循环一个循环）
我不知道您使用的是哪个 Futures 库，但如果您使用的是其他库之一，最好切换到 Akka 的 Future（Scala 2.10 的默认值）。
可能是一个愚蠢的建议，但您确定服务器没有限制您的进程可以使用的内核数量吗？另请提供 JVM 和 OS 版本。

标签： performance scala future

【解决方案1】：

在 x86 架构上，对非规范化浮点数的操作可能需要更长的时间。见：

Why does changing 0.1f to 0 slow down performance by 10x?

尚未检查您的代码，但鉴于您返回 NaN，可能就是这种情况。尝试从测试中移除随机性以验证该假设。

【讨论】：

我认为这不是问题所在。唯一的浮点运算是计算平均值。所有其他数字要么是 Int 要么是 Long（和一些布尔值）。

【解决方案2】：

您已经找到了答案，因为问题是使用 AtomicLong() 的 Random.nextInt()。如果从不同的线程频繁访问它，那么您将遇到缓存抖动，这在您的 64 核计算机上会更糟，因为缓存将更远（电气），因此获得必要的缓存行锁定需要更长的时间。

查看这个stackoverflow答案了解更多详情，以及如何避免这个问题的解决方案（基本上是使用线程本地随机数生成器）：Contention in concurrent use of java.util.Random

【讨论】：