验证简单 for/lambda 比较的 JMH 测量值

Question

我想对简单的 for 循环和等效的流实现进行一些性能测量和比较。我相信流会比等效的非流代码慢一些，但我想确保我测量的是正确的东西。

我在这里包括我的整个 jmh 课程。

import java.util.ArrayList;
import java.util.List;

import org.openjdk.jmh.annotations.Benchmark;
import org.openjdk.jmh.annotations.Scope;
import org.openjdk.jmh.annotations.Setup;
import org.openjdk.jmh.annotations.State;

@State(Scope.Benchmark)
public class MyBenchmark {
    List<String>    shortLengthListConstantSize     = null;
    List<String>    mediumLengthListConstantSize    = null;
    List<String>    longerLengthListConstantSize    = null;
    List<String>    longLengthListConstantSize      = null;

    @Setup
    public void setup() {
        shortLengthListConstantSize     = populateList(2);
        mediumLengthListConstantSize    = populateList(12);
        longerLengthListConstantSize    = populateList(300);
        longLengthListConstantSize      = populateList(300000);
    }

    private List<String> populateList(int size) {
        List<String> list   = new ArrayList<>();
        for (int ctr = 0; ctr < size; ++ ctr) {
            list.add("xxx");
        }
        return list;
    }

    @Benchmark
    public long shortLengthConstantSizeFor() {
        long count   = 0;
        for (String val : shortLengthListConstantSize) {
            if (val.length() == 3) { ++ count; }
        }
        return count;
    }

    @Benchmark
    public long shortLengthConstantSizeForEach() {
        IntHolder   intHolder   = new IntHolder();
        shortLengthListConstantSize.forEach(s -> { if (s.length() == 3) ++ intHolder.value; } );
        return intHolder.value;
    }

    @Benchmark
    public long shortLengthConstantSizeLambda() {
        return shortLengthListConstantSize.stream().filter(s -> s.length() == 3).count();
    }

    @Benchmark
    public long shortLengthConstantSizeLambdaParallel() {
        return shortLengthListConstantSize.stream().parallel().filter(s -> s.length() == 3).count();
    }

    @Benchmark
    public long mediumLengthConstantSizeFor() {
        long count   = 0;
        for (String val : mediumLengthListConstantSize) {
            if (val.length() == 3) { ++ count; }
        }
        return count;
    }

    @Benchmark
    public long mediumLengthConstantSizeForEach() {
        IntHolder   intHolder   = new IntHolder();
        mediumLengthListConstantSize.forEach(s -> { if (s.length() == 3) ++ intHolder.value; } );
        return intHolder.value;
    }

    @Benchmark
    public long mediumLengthConstantSizeLambda() {
        return mediumLengthListConstantSize.stream().filter(s -> s.length() == 3).count();
    }

    @Benchmark
    public long mediumLengthConstantSizeLambdaParallel() {
        return mediumLengthListConstantSize.stream().parallel().filter(s -> s.length() == 3).count();
    }

    @Benchmark
    public long longerLengthConstantSizeFor() {
        long count   = 0;
        for (String val : longerLengthListConstantSize) {
            if (val.length() == 3) { ++ count; }
        }
        return count;
    }

    @Benchmark
    public long longerLengthConstantSizeForEach() {
        IntHolder   intHolder   = new IntHolder();
        longerLengthListConstantSize.forEach(s -> { if (s.length() == 3) ++ intHolder.value; } );
        return intHolder.value;
    }

    @Benchmark
    public long longerLengthConstantSizeLambda() {
        return longerLengthListConstantSize.stream().filter(s -> s.length() == 3).count();
    }

    @Benchmark
    public long longerLengthConstantSizeLambdaParallel() {
        return longerLengthListConstantSize.stream().parallel().filter(s -> s.length() == 3).count();
    }

    @Benchmark
    public long longLengthConstantSizeFor() {
        long count   = 0;
        for (String val : longLengthListConstantSize) {
            if (val.length() == 3) { ++ count; }
        }
        return count;
    }

    @Benchmark
    public long longLengthConstantSizeForEach() {
        IntHolder   intHolder   = new IntHolder();
        longLengthListConstantSize.forEach(s -> { if (s.length() == 3) ++ intHolder.value; } );
        return intHolder.value;
    }

    @Benchmark
    public long longLengthConstantSizeLambda() {
        return longLengthListConstantSize.stream().filter(s -> s.length() == 3).count();
    }

    @Benchmark
    public long longLengthConstantSizeLambdaParallel() {
        return longLengthListConstantSize.stream().parallel().filter(s -> s.length() == 3).count();
    }

    public static class IntHolder {
        public int value    = 0;
    }
}

我在 Win7 笔记本电脑上运行这些。我不关心绝对测量，只关心相对。以下是这些的最新结果：

Benchmark                                            Mode  Cnt          Score         Error  Units
MyBenchmark.longLengthConstantSizeFor               thrpt  200       2984.554 ±      57.557  ops/s
MyBenchmark.longLengthConstantSizeForEach           thrpt  200       2971.701 ±     110.414  ops/s
MyBenchmark.longLengthConstantSizeLambda            thrpt  200        331.741 ±       2.196  ops/s
MyBenchmark.longLengthConstantSizeLambdaParallel    thrpt  200       2827.695 ±     682.662  ops/s
MyBenchmark.longerLengthConstantSizeFor             thrpt  200    3551842.518 ±   42612.744  ops/s
MyBenchmark.longerLengthConstantSizeForEach         thrpt  200    3616285.629 ±   16335.379  ops/s
MyBenchmark.longerLengthConstantSizeLambda          thrpt  200    2791292.093 ±   12207.302  ops/s
MyBenchmark.longerLengthConstantSizeLambdaParallel  thrpt  200      50278.869 ±    1977.648  ops/s
MyBenchmark.mediumLengthConstantSizeFor             thrpt  200   55447999.297 ±  277442.812  ops/s
MyBenchmark.mediumLengthConstantSizeForEach         thrpt  200   57381287.954 ±  362751.975  ops/s
MyBenchmark.mediumLengthConstantSizeLambda          thrpt  200   15925281.039 ±   65707.093  ops/s
MyBenchmark.mediumLengthConstantSizeLambdaParallel  thrpt  200      60082.495 ±     581.405  ops/s
MyBenchmark.shortLengthConstantSizeFor              thrpt  200  132278188.475 ± 1132184.820  ops/s
MyBenchmark.shortLengthConstantSizeForEach          thrpt  200  124158664.044 ± 1112991.883  ops/s
MyBenchmark.shortLengthConstantSizeLambda           thrpt  200   18750818.019 ±  171239.562  ops/s
MyBenchmark.shortLengthConstantSizeLambdaParallel   thrpt  200     474054.951 ±    1344.705  ops/s

在较早的问题中，我确认这些基准测试似乎“功能相同”（只是寻找更多的眼睛）。这些数字是否与这些基准的独立运行一致？

关于 JMH 输出，我一直不确定的另一件事是确定吞吐量数字所代表的确切含义。例如，“Cnt”列中的“200”究竟代表什么？吞吐量单位是“每秒操作数”，那么“操作”究竟代表什么，是对基准方法的一次调用的执行吗？例如，在最后一行中，这表示基准方法在一秒钟内执行了 474k 次。

更新：

我注意到，当我将“for”与“lambda”进行比较时，从“短”列表开始到较长的列表，它们之间的比率相当大，但会减小，直到“长”列表，该比率甚至比“短”名单（14%、29%、78% 和 11%）还要大。我觉得这很令人惊讶。我本来预计随着实际业务逻辑中的工作增加，流开销的比率会降低。有人对此有什么想法吗？

Answer 1

例如，“Cnt”列中的“200”究竟代表什么？

cnt 列是迭代次数 - 即重复测试的次数。您可以使用以下注释控制该值：

• 实测：@Measurement(iterations = 10, time = 50, timeUnit = TimeUnit.MILLISECONDS)
• 对于热身阶段：@Warmup(iterations = 10, time = 1, timeUnit = TimeUnit.SECONDS)

这里iterations 是cnt； time 是一次迭代所需的持续时间，timeUnit 是 time 值的度量单位。

吞吐量单位是“每秒操作数”

您可以通过多种方式控制输出。例如，您可以使用@OutputTimeUnit(TimeUnit.XXXX) 更改时间的测量单位，因此您可以获得 ops/us、ops/ms

您还可以更改mode：您可以测量“平均时间”、“采样时间”等，而不是测量操作/时间。您可以通过@BenchmarkMode({Mode.AverageTime}) 注释进行控制

那么“操作”究竟代表什么，是对基准方法的一次调用的执行

假设一次迭代为 1 秒长，您将获得 1000 次操作/秒。这意味着benchamrk方法已经执行了1000次。

换句话说，一个操作是基准方法的一次执行，除非您有@OperationsPerInvocation(XXX) 注释，这意味着方法的教导调用将计为XXX 操作。

误差是在所有迭代中计算出来的。

---

另一个提示：您可以进行参数化基准测试，而不是对每个可能的尺寸进行硬编码：

@Param({"3", "12", "300", "3000"})
private int length;

然后您可以在设置中使用该参数：

 @Setup(Level.Iteration)
 public void setUp(){
     populateList(length)
 }