谷歌云数据存储延迟

Question

我在 Cloud Run 上部署了一个 API，其中每个请求都会导致对 Cloud Datastore 的读取和写入。大量请求是第一个计时器（从 Datastore 读取将返回 null），因此在其前面添加缓存可能没有太大帮助。

在过去一个月中，调用 Datastore 并获取数据 (data = client.get(key, eventual=True)) 的平均挂墙时间为 48 毫秒。有效载荷很小（一个字典列表，平均有 10 个元素，每个字典有两个浮点数）。

我不确定我是否应该说延迟很高，但我的 API 有 100 毫秒的预算来完成它需要做的所有事情并返回。如果只是数据提取需要大约 50% 的时间，我正在寻找优化方法。

问题：

1. 一般而言，对于从 GCP 中按键获取的相当小的有效负载，50 毫秒听起来如何？
2. 对于 GCP 中的 Memorystore，我应该期待什么（在延迟方面）？

Answer 1

假设您在同一位置使用 Cloud Run 和 Datastore，我会说 50 毫秒大约是您在数据存储上读取的预期延迟，负载的大小对于读取并不重要（10 - 1000 次文档读取不会对处理/传播时间产生很大影响）。

由于您的 API 操作窗口如此之小，如果发生一些意外延迟，这确实可能是个问题。

我从未使用过 Memorystore，因此我无法说出您对实际延迟的预期，但考虑到您的应用程序的每一毫秒都很重要，这可能是一个更好的选择。