使用 ServicePartitionClient 对服务结构 StatelessService 进行负载平衡

Question

我正在服务结构集群上实现 API 网关，其中 API 网关服务是将外部 HTTP 请求路由到集群中运行的一组工作服务的公共端点。对于网关和内部服务之间的服务间通信，我们使用 ServicePartitionClient。

我发现，当使用 ServicePartitionClient 解析服务地址并与无状态服务通信时，它会选择无状态服务的单个实例，并且每次尝试通信时只与该实例通信。就我而言，我有多个无状态服务实例正在运行，并希望在它们之间分配负载（例如循环）。有没有办法使用 ServicePartitionClient 来做到这一点，并且不需要每次都访问 NamingService 服务（这对于我们的用例来说太贵了）？

Answer 1

为每个请求创建一个新的 ServicePartitionClient 实例。

ServicePartitionClient 是一个相对轻量级的数据结构，它只保存一些关于通信通道的元数据。实际的连接管理、池化和解析名称缓存发生在下面的层中：

• FabricClient 缓存已解析的端点，因此您不会在每次请求端点时都访问命名服务。
• ServicePartitionResolver 使用基于我们知道的常见连接异常的基本重试循环包装 FabricClient。
• CommunicationClientFactoryBase，如果您正在使用它，它会为您保留一个 ServicePartitionResolver 实例并缓存连接。

因此，请确保您正在重用您的 CommunicationClientFactory。如果你使用的是 CommunicationClientFactoryBase 并且你没有传入你自己的 ServicePartitionResolver，它默认使用单例。