缓存信息以获得快速 http 响应的最佳选择

Question

我正在开发一个监听 HTTP 请求的 Web 服务。该服务必须非常快速地响应并处理可能的最大并发请求数。

该服务有一个端点，带有 2 个请求参数（param1 和 param2），用于验证某些信息，然后发送响应。

我预定义了一些信息，用于验证请求参数。例如：

• 我知道param1 已分配给assign1 并具有prop1 属性。 Param1 也被分配给具有prop3 属性的assign3。

• 而param2 被分配给assign2 并具有prop2 属性。

有了这些信息，当我收到一个 HTTP 请求时，我需要验证 param1 是否分配有 assign1 或 assign2，否则，我应该返回一个空响应。

显然，这个想法是为了避免对其进行硬编码，如果我可以在服务器运行时修改该信息，那就太好了。

为了实现这一点，我知道两个现有的解决方案（可能还有更多）：

• 使用spring boot，并在.yml 文件中设置该信息，以便使用@Value(${param1}) 等占位符通过spring bean 读取它们。问题是我需要重新加载应用程序如果我想查看该 .yml 文件中所做的更改，那么从技术上讲，我无法在服务器运行时修改缓存的信息。

• 使用像H2 这样的嵌入式数据库，并使用选择获取每个请求的信息。问题是我需要为每个请求进行选择（如果我必须进行任何加入，它会增加响应时间）。但是我可以在服务器运行时修改信息。

我想知道哪个是“缓存”该信息的最佳选择，并让服务非常快，因为每个请求都被阻塞。

我也在使用 Spring Boot 来提供该服务，但如果您知道任何更好的 Web 容器，我愿意尝试。

Answer 1

你过早地优化了。

一方面：“我需要非常快速地处理请求”和“处理尽可能多的请求”是一种模糊的性能标准。

你可以这样更清楚地表达你的目标：

1. 我需要我的服务每小时处理 99% 的所有请求，延迟不超过 50 毫秒。

2. 我需要我的服务能够每秒处理 1000 个请求（或您需要的任何数量）

然后，您可以开始衡量性能并根据需要进行优化。

当然，缓存结果是个好主意，您应该这样做。但如果您担心在同一台服务器上运行的本地数据库会显着增加您的服务延迟，您可能会发现情况并非如此。