为什么在 NodeJS 上发出很多请求很慢？

Question

我设置了一个本地快递服务器：

const express = require('express');
const app = express();
app.get('/test', (request, response) => {
    response.sendStatus(200);
});
const port = 3000;
app.listen(port, () => {});

然后我运行了一个脚本：

const axios = require('axios');
async function main() {
    console.time('time');
    const requests = Array(5000).fill().map(() => axios.get('http://localhost:3000/test'));
    await Promise.all(requests);
    console.timeEnd('time');
}
main();

我的问题是为什么这个脚本在我的机器上需要 3 秒？

我希望它需要几毫秒，就像任何其他 5000 次迭代的 for 循环一样。 因为我在本地运行服务器并通过 localhost 调用它，所以我预计不会有延迟，因此，promise 的等待时间应该几乎是 0。

谁能给我解释一下这是怎么回事？

另外，我怎样才能更快地同时处理多个请求？

编辑

看这里https://stressgrid.com/blog/webserver_benchmark/ 我希望我的单进程节点服务器能够无任何延迟地同时处理至少 20k 个请求。

所以我猜我的机器上缺少一些配置。启动节点服务器时可能有一些标志？

Answer 1

三件事：

• 该基准未正确设置。
• Express 是所有 NodeJS Web 框架中最慢的。
• 您的机器可能配置错误。

您可以在这里找到更好的基准测试和不同框架的比较：https://www.fastify.io/benchmarks/

他们的 github 存储库解释了他们所做的所有设置，因此您也可以将您的机器与他们的机器进行比较。

1.基准测试

说白了，你设置的基准是无效的。它不会重现任何现实世界的场景，并且没有针对它创建的合成场景进行优化。

只是为了举例说明，由于在 Node 上一切都是单线程的，因此串行运行请求的性能会更好，以便可以重用连接（还需要将您的请求框架更改为可以重用连接的框架）。如果您并行发出请求，HTTP 1 不会重用连接，而且您的客户端也没有设置为重用连接。

让我们看看修复后的结果。在我的机器上，您发布的基准测试甚至没有运行——如果您尝试在同一个端口上同时打开那么多连接，节点就会崩溃。此版本的理论性能与您的基准测试大致相同，并且可以运行：

const axios = require("axios");
async function main() {
  console.info(process.hrtime.bigint() / 1000000n + "ms");
  for (let i = 0; i < 5000; ++i) {
    await axios.get("http://localhost:3000/test");
  }

  console.info(process.hrtime.bigint() / 1000000n + "ms");
}
main();

这在我的机器上大约需要 3 秒（与您的机器差不多）。现在让我们重用连接：

const axios = require("axios");
const http = require("http");

async function main() {
  const httpAgent = new http.Agent({ keepAlive: true });

  console.info(process.hrtime.bigint() / 1000000n + "ms");
  for (let i = 0; i < 5000; ++i) {
    await axios.get("http://localhost:3000/test", { httpAgent });
  }

  console.info(process.hrtime.bigint() / 1000000n + "ms");
}
main();

这需要 800 毫秒。

您的基准测试遗漏了许多其他类似的细节。我无法总结所有这些。您可以将您的基准与 Fastify 的（上面链接）进行比较，以了解每个差异如何影响您的测量。

2.框架

Express 因其简单而广受欢迎，但它不是一个快速的框架。看看更现代的，例如 Koa 或 Fastify。请注意，您的应用程序可能会做的不仅仅是提供一个空白页面，因此您的 Web 框架的性能可能并不重要。也就是说，我不认为任何人都应该在 2021 年使用 express，如果他们有选择的话，因为他们的开发人员体验也已经过时（例如，不支持在中间件中等待请求）。

3.本地机器

也可能是您的计算机运行缓慢等原因。这是从重新运行标准化基准而不是创建自己的基准开始的另一个原因。

Answer 2

从一开始就定义慢。您有Array(5000).fill()，我们可以将其解释为为我在内存中保留了 5000 个插槽，换句话说，您执行 5000 的 for 循环，然后执行 5000 请求，这意味着 10,000 循环。在 java 上做同样的 10,000 次循环并比较然后告诉我 JavaScript 是否很慢。 另外我不知道你有没有，但是 axios 有不少内部验证