如何将 API 调用集中到特定的服务结构节点

Question

我已经通过 Azure 应用程序网关公开了一个启用 websocket 的服务端点，并且该服务托管在 azure 服务结构上。客户端启动与我的端点的 websocket 连接并能够交换数据。在某些消息流期间，我启用了 Web Socket 的服务使用 azure 服务总线调用托管在服务结构上的其他服务。这些以完全异步的方式处理。一旦其他服务完成处理，它们就会向我的 WebSocket 服务读回的服务总线发布一条消息。 我遇到的问题是将消息路由回正确的服务结构节点，以便可以将其推送回 WebSocket 连接另一端的客户端

在下图中，您可以想象每个节点包含多个服务，包括启用 Web 套接字的服务。一旦 Websocket 服务向服务总线发送消息，下游服务就会开始处理，最后它们会将消息发送回服务总线，Websocket 服务会读回该消息。在这里，一个随机节点将接收消息，它可能没有相关的 websocket 连接来推回处理过的数据 Sample Design

我查看了 redis pubsub 模型，看起来我必须维护节点上处理的最后一条消息。这也意味着，集群上的每个节点都需要读取消息并在它们没有与客户端的 websocket 连接时丢弃它。我正在寻找针对此类问题的任何建议设计模型

Answer 1

我遇到了类似的情况，不喜欢使用新的外部服务（Redis/SQL Server）作为背板的想法，它只会在所有节点上复制每个消息/事件。

我确定的解决方案是依靠演员代理的属性，使用演员事件回调到无状态服务的特定实例。创建一个参与者服务来充当发布/订阅背板。

解决方案总结在this blog post和this GitHub repo。值得指出的是，documentation 状态 actor 事件是尽力而为。当应用程序正常运行时，这并不是真正的问题，我认为在部署或故障转移期间，某些事件可能会丢失，但是可以通过额外的工作来缓解这种情况。

还值得注意的是，您的负载平衡规则应保持客户端和后端实例之间的粘性连接。如果您只想将其应用于 websockets 而不是常规的 HTTP 流量，则可以为 websockets 创建单独的规则。