为什么在增加用户时使用 IHttpClientFactory 会出现 .NET Core API 性能问题？

Question

我有一个 .NET Core WebAPI，我的 React UI 正在调用它来验证用户。它为此调用了第 3 方 API。一切正常，但我们已经开始对其进行性能测试，当我们增加尝试同时登录的用户时，它的扩展性不好。 （耗时 30 秒）

我们调用的第 3 方 API 表示它们以毫秒为单位做出响应。

我的 API 托管在 AWS 上的 Kubernetes 容器中。我已将 AWS X-ray 添加到代码中以尝试获取更多信息，但我不确定如何解释结果。

代码非常简单 - 这是来自 MyAuthenticationProvider 类的 sn-p（构造函数采用指标收集器（用于 AWS X-Ray 和用于进行调用的 securityProvider http 客户端）

        metricCollector.StartCollection("Stage 1");
        HttpResponseMessage response = await securityProvider.SendAsync(requestMessage);
        metricCollector.EndCollection();

上述代码的 X-Ray 图像是：

X-Ray 是否显示该 API 确实等待 30 多秒才能返回响应，我应该联系该公司进行进一步调查，即使他们告诉我所有流量也在毫秒。

或者是我在 Startup.cs 的 MyAuthProvider 类中定义的 http 客户端在并发用户增加时无法正确扩展？

这是 Startup.cs 中的代码

      services.AddTransient<IMyAuthenticationProvider>(ctx =>
        {
            IHttpClientFactory clientFactory = ctx.GetRequiredService<IHttpClientFactory>();
            return new MyAuthenticationProvider(
                clientFactory.CreateClient("3RDPARTYAUTHCLIENT"),
                ctx.GetService<IMetricCollector>());
        });

我要提高性能的另一件事是引入 Redis 来缓存其中一些响应，因为它们会为不同的操作多次调用但结果将是相同的

Answer 1

虽然您只创建了 1 个名为 HttpClient，但您已将 IMyAuthenticationProvider 的服务生命周期设置为 transient。

这意味着，通过创建IMyAuthenticationProvider 的新 实例每次都需要一个HttpClient，您基本上失去了单个HttpClient 的大部分好处 strong>（在最好的情况下，这将与每个客户端请求同义，但不要误认为是作用域服务）。

这可能会大大降低您的应用程序的速度，并且可能是应用程序扩展性能不佳的原因。

您试图清楚地使用单个 HttpClient，它通常是 static 或包装为单例类中的非静态实例。并且仍然是a good solution for short-lived console applications 等。但是在这种情况下，我允许IHttpClientFactory 解析客户端。

ASP.NET Core 中 IHttpClientFactory 的主要目标是确保正确创建 HttpClient 实例（taking into account things like DNS changes 单个 HttpClient 实例无法处理），同时消除套接字耗尽。

IHttpClientFactory 注入的 HttpClient 实例有一个 transient lifetime（文档是冲突的，并且出于某种荒谬的原因提到了瞬态 2x 和作用域 1x），所以我会 将IMyAuthenticationProvider 的生命周期设置为作用域使其尽可能地被重复使用。

不应使用运行时间较长的单例 IHttpClientFactory，在这种情况下，不应使用注入的生命周期较短的作用域 HttpClient。

MSFT:

不要从单例中解析作用域服务，并注意不要间接这样做

虽然注入的HttpClient 对象是瞬态的，但使用IHttpClientFactory 可以合并HttpMessageHandler 对象，这些对象可以并且将被多个HttpClient 实例重用。

试试：

services.AddHttpClient<IMyAuthenticationProvider, MyAuthenticationProvider>();
services.AddHttpClient<IMetricCollector, MetricCollector>();
...

services.AddScoped<IMyAuthenticationProvider, MyAuthenticationProvider>();

public class MyAuthenticationProvider : IMyAuthenticationProvider
{
  private readonly HttpClient _httpClient;

  public MyAuthenticationProvider(HttpClient httpClient)
  {
      _httpClient = httpClient;
  }

  ...
}