我如何使用 Python gRPC 对流式消息进行计时

Question

作为问题的答案：how-do-i-handle-streaming-messages-with-python-grpc，@Nathaniel 提供了处理请求和响应的解决方案。

但是当我想统计每个响应的处理时间时，它看起来并不正确。比如我在我的stream_iter里睡了200ms，但是tr竟然还不到200。我的代码：

t0 = time.time()
for rsp in stub.Process(stream_iter()):
    tr = (time.time() - t0) * 1000
    print(tr)
    t0 = time.time()
...

所以我想知道如何计时？

Answer 1

很难判断给定的 sn-p 有什么问题。我建议创建一个完整的复制案例作为问题发送给https://github.com/grpc/grpc/issues。

这里有一些可能性：

1. 流控制，客户端/服务器可能会缓冲它收到的消息，因此在某些情况下您可能会看到小突发。
2. 迭代器中的错误，例如，我们想在 __next__ 中休眠，但可能会意外在 __iter__ 中注入休眠。

通常，如果您调整规模和吞吐量，噪音应该会消失。您可以测量每个响应的延迟时间。