存根的 gRPC 并发

Question

在 gRPC 中，我想了解有关服务器处理请求方式的更多信息。

请求是否并行执行？或者服务器是否为每个请求生成一个新线程，并并行执行它们？有没有办法修改这种行为？我知道在客户端流式传输 rpc 中，消息顺序是有保证的。

• 如果我将请求 A 和请求 B 发送到同一个 RPC，是否可以保证 A 在 B 开始处理之前先执行？还是它们各自都有自己的线程并并行执行，不能保证 A 在 B 之前完成。

理想情况下，我想向服务器发送请求，服务器确认收到请求，然后将请求添加到队列中以按顺序处理，并在处理完毕后返回响应。我正在探索的一种方法是使用外部任务队列（如 RabbitMQ）对服务完成的工作进行排队，但我想知道是否有更好的方法。

另外——在一个有点相关的注释上——gRPC 是否有一个本机重试计数器机制？我有一个特别容易出错的 RPC，它可能必须重试多达 3 次（重试之间有任意延迟）才能成功。这也可以用 RabbitMQ 实现。

Answer 1

grpc-java 使用ServerBuilder.executor(Executor) 提供的Executor 将RPC 传递给服务，如果没有提供执行程序，则使用cached thread pool。

同时发生的 RPC 之间没有排序。 RPC 可以按任何顺序到达。

您可以使用服务器流式 RPC 来允许服务器响应两次，一次用于确认，一次用于完成。您可以在响应消息中使用oneof 来允许发送两个不同的响应。

grpc-java 作为实验性重试支持。 gRFC A6 描述了支持。配置通过服务配置传递给客户端。默认情况下重试是禁用的，所以总的来说你会想要channelBuilder.defaultServiceConfig(serviceConfig).enableRetry()这样的东西。也可以参考hedging example，与重试非常相似。