如何根据请求数量使用/实现自定义nodejs断路器？

Question

我正在尝试根据 Typescript/express 应用程序中提供的请求数量而不是失败百分比来确定实现断路器的最佳等待时间。

由于该应用程序旨在由大量用户在高负载下执行，因此我正在尝试自定义响应代码以使用 k8s/istio 触发水平缩放事件。

如果有一些异步工作正在进行，我首先要获取的是 nodejs eventloop 事件中的请求数，因为我的请求的很大一部分是使用 async/await 异步执行的。

顺便说一句：
我看过这些库

• https://github.com/bennadel/Node-Circuit-Breaker
• https://github.com/nodeshift/opossum

为了让这成为可能，我有什么好的想法/路径可以开始吗？

Answer 1

我无法从您的问题中确定，但如果您尝试做的只是跟踪正在进行的请求数量，然后在该数量超过特定值时特别执行某些操作，那么你可以使用这个中间件：

function requestCntr() {
    let inProgress = 0;
    const events = ['finish', 'end', 'error', 'close'];

    return function(req, res, next) {

      function done() {
          // request finished, so decrement the inProgress counter
          --inProgress;
          // unhook all our event handlers so we don't count it more than one
          events.forEach(event => res.off(event, done));
      }

      // increment counter for requests in progress
      ++inProgress;
      const maxRequests = 10;
      if (inProgress > maxRequests) {
          console.log('more than 10 requests in flight at the same time');
          // do whatever you want to here
      }

      events.forEach(event => res.on(event, done));
      next();
    }
}

app.use(requestCntr());