Java 中什么是快速、等待通知或忙等待？

Question

我知道使用忙等待不是一个好的编程习惯，最好尽可能使用同步对象（等待通知）。但我想知道是否准备好牺牲 cpu 周期，那么忙等待会更快还是等待通知？

我假设等待通知将涉及对同步对象的内在锁定，并且信号可能来自内核以唤醒线程，这使得这种方法比忙碌等待慢得多，在这种方法中，人们可以连续检查一个条件直到满意为止。一旦满足此条件（例如布尔值 == true），线程可能会退出忙等待。据我了解，我觉得忙等待应该更快。

如果我的论点有错误，如果其他人能分享他们的想法并纠正我，我将不胜感激。

Answer 1

实验表明，如果您忙于等待，那么您会比等待并通知（无论如何在我的硬件上）更快地看到标志。 （详情如下。）差异是非常非常非常非常小，因此这仅适用于非常罕见的应用程序。例如，股票交易应用程序，如果公司追求他们可以获得的任何优势（争相将他们的服务器放置在尽可能靠近交易所的地方，以便从交易所获得其网络馈送的微秒级改进等）可能会认为这种差异是值得的。我也可以想象一些科学应用。

在绝大多数应用程序中，差异实际上根本没有差异。

但是发生在 CPU 上的当然是其中一个核心硬钉：

就影响机箱上的其他进程和数据中心的功耗而言，这很糟糕。

所以：非常不情愿地使用，仅在真正重要的情况下使用。

---

数据（非常小的样本，但代码如下）：

忙等待：10631 12350 15278 等待并通知：87299 120964 107204 达美：76668 108614 91926

时间以 nano秒为单位。十亿分之一秒。上面的平均增量为 92403ns（0.092402667 毫秒，0.000092403 秒）。

BusyWait.java:

public class BusyWait {

    private static class Shared {
        public long setAt;
        public long seenAt;
        public volatile boolean flag = false;
    }

    public static void main(String[] args) {
        final Shared shared = new Shared();
        Thread notifier = new Thread(new Runnable() {
            public void run() {
                System.out.println("Running");
                try {
                    Thread.sleep(500);
                    System.out.println("Setting flag");
                    shared.setAt = System.nanoTime();
                    shared.flag = true;
                }
                catch (Exception e) {
                }
            }
        });
        notifier.start();
        while (!shared.flag) {
        }
        shared.seenAt = System.nanoTime();
        System.out.println("Delay between set and seen: " + (shared.seenAt - shared.setAt));
    }
}

WaitAndNotify.java:

public class WaitAndNotify {

    private static class Shared {
        public long setAt;
        public long seenAt;
        public boolean flag = false;
    }

    public static void main(String[] args) {
        (new WaitAndNotify()).test();
    }
    private void test() {
        final Shared shared = new Shared();
        final WaitAndNotify instance = this;
        Thread notifier = new Thread(new Runnable() {
            public void run() {
                System.out.println("Running");
                try {
                    Thread.sleep(500);
                    System.out.println("Setting flag");
                    shared.setAt = System.nanoTime();
                    shared.flag = true;
                    synchronized (instance) {
                        instance.notify();
                    }
                }
                catch (Exception e) {
                }
            }
        });
        notifier.start();
        while (!shared.flag) {
            try {
                synchronized (this) {
                    wait();
                }
            }
            catch (InterruptedException ie) {
            }
        }
        shared.seenAt = System.nanoTime();
        System.out.println("Delay between set and seen: " + (shared.seenAt - shared.setAt));
    }
}

Answer 2

一个准备好在繁忙的等待中牺牲 CPU 周期，因为它更快。 忙等待是实时低延迟应用程序的示例。

有一个名为lmax disruptor 的框架是为伦敦证券交易所构建的，其中一个锁定策略是忙等待，这就是他们使用它的方式。

为了超快，最好在通知您的锁时浪费 cpu 周期来节省时间。

你对所有其他的东西都是正确的，如果你用谷歌搜索一下disruptor 并阅读他们的论文，你会得到更多的澄清。关于高性能和低延迟有太多话要说。

一个不错的博客是Mechanical Sympathy。

Answer 3

视情况而定。有几种情况：

场景 A

如果在'busy-wait'中等待的是硬件操作（例如，从硬盘读取一个扇区到内存）：

1) 硬件将执行操作。

2) 驱动程序将启动中断。

3) 操作将暂停实际进程（您的忙等待进程），保存任何 CPU 寄存器的实际值，中断将在其处理中覆盖。

4) 中断将被处理，修改任何指示数据可用的标志（在磁盘读取的情况下）。

5) 任何被覆盖的寄存器都将被恢复。

6) 您的流程将继续其流程。就在下一次迭代中，它将调用循环的 conthe 条件。例如，如果忙等待是：

while( !fileReady() ){
    ...
}

fileReady() 方法将是一种在内部检查是否设置了具体标志（在 4 中修改的标志）的方法。 7）所以就在下一次迭代中，循环将进入并执行操作。

请记住，如果有另一个进程正在运行（操作系统进程、其他程序），它们会将您的进程置于进程尾部。此外，操作系统可以决定，鉴于您的进程已经使用了他可以使用的所有 CPU 周期（它花费了它的时间片），它的优先级将低于其他进入睡眠状态（而不是使用忙等待方法）的进程。需要等待某个条件。

结论。如果没有其他外部进程在同一个内核/CPU 中运行（非常不可能），则速度会更快。

---

场景 B

另一方面，如果busy-method正在等待另一个进程结束（或将任何变量设置为某个值，busy-wait会变慢。

1)busy-method 将在 CPU 中运行。由于其他进程没有运行，条件不能改变，所以busy-method会一直运行，直到CPU决定把CPU时间给其他进程。

2) 另一个进程将运行。如果这个过程花费的时间没有达到busy-wait过程需要的条件，则执行1)，否则继续执行3)

3) 另一个（不是忙等待）进程仍会运行一段时间，直到 cpu 决定新的进程更改。

4）busy-method 会再次运行，但是现在条件已经满足，所以操作已经完成了。

结论：它比较慢，我们也拖慢了整个过程。

---

场景 C

如果我们有与 B 相同的场景，但有多个内核（每个内核中有一个进程）怎么办？

首先，请记住，即使您的 CPU 具有多个内核，也可能不允许您的程序使用多个内核。也许有一些操作系统或其他程序在使用它们。

其次，它不值这个价。请记住，进程必须进行通信以允许忙等待发现条件满足。这通常可以通过“最终”变量来完成，因此每次评估条件时都需要在同步块中输入（在进入循环之前不能锁定并且不能解锁它，因为在这种情况下另一个进程将无法更改变量。所以你需要这样的东西：

boolean exit = false;
while( exit==false ){
    synchronize(var){
        if(var = CONDITIONS_MEET)
            exit=true;
    }
}
//operations...

}

¡¡ 但是等待通知会做一些类似的事情，并且更有效（在语言级别），不会浪费 CPU 周期，并使用良好的规则！！

结论：您正在使您的生活复杂化，而这不太可能会更快（非常非常不可能）。

---

最终结论：只有在非常非常简单的场景中，知道操作系统的具体细节和程序运行的环境，才可以考虑busy-wait方法.

我希望这将回答您的问题。如果有不清楚的地方，请不要犹豫。

Answer 4

忙碌等待比正常等待通知更快。

1. 但是为什么要等呢？因为一个生产者或其他线程会做一些工作，然后设置一个条件（或通知），这样你就可以真正摆脱忙/等待循环。 现在假设如果您的 Producer 正在执行一些繁重的任务，那么您实际上会通过忙等待来消耗它的 CPU 周期（主要是在单处理器系统中），这反过来可能会使您的系统整体变慢。

2. 所以现在应该使用忙等待。 正如克劳迪奥所说，它主要用于低延迟系统。 但仍不能盲目使用。制作人时使用忙等待 正在以稳定的速度生产。 如果您的生产者以可变速率生产项目（通常由泊松分布证明），那么您可能应该使用等待通知。

3. 通常情况下，高吞吐量和低延迟系统的最佳权衡是使用 忙等待一段时间，然后转到 wait()。 如果您的系统需要超低延迟，那么您可以进行许多优化 其中之一可能是忙碌等待。 但不应该是每个线程都在忙等待。确保只有一些消费者 可能在 N/2 左右 消费者正在忙着等待 N 是你的内核数 系统。浪费 CPU 周期可能会影响系统的整体性能和响应能力。 供您参考：即使是 Normal ReentrantLock 及其变体也应用这些策略。 IE 即 当一个线程调用 lock.lock() 时，它会尝试两次获取锁，然后再进入队列并等待锁被释放。对于低延迟系统，您甚至可以为特定场景定义自己的锁，在这些场景中它们会在进入队列之前尝试超过 10 次（它们将是所谓的自旋锁的变体）