自动缩放时如何解决谷歌应用引擎延迟？答案

【问题标题】：How to resolve google app engine latency while autoscaling?自动缩放时如何解决谷歌应用引擎延迟？
【发布时间】：2020-07-05 18:18:48
【问题描述】：

我们的项目在 Google App Engine 标准环境中运行，自动缩放配置为自动。应用程序中启用了预热请求，我们正在使用 Google Endpoints 服务。但是，我在扩大规模时面临延迟问题。例如，API 需要 50 多秒。从应用程序日志中我可以注意到加载 AppEngineWebAppContext 本身最多需要 52 秒。如何减少缩放期间的延迟？

环境：Java 8， 实例类型：F4_1G

【问题讨论】：

你能显示缩放配置吗？
@DanCornilescu，我们正在使用默认自动缩放设置

标签： google-app-engine autoscaling

【解决方案1】：

您可能看到需要 50 秒的是待处理延迟，它是通过实例处理请求之前在队列中停留的时间来衡量的。

您应该检查您的日志并查看哪些请求比平时花费更多，并尝试将它们分解为较小的工作。通常，这在您进行自动缩放时会有所帮助，因为拥有更多的小型作业而不是一个或多个大型作业将有助于解决您遇到的延迟问题。

此外，挂起的延迟可能会因大量小型作业而增加，但这会导致应用正确扩展它。

【讨论】：

感谢@Stefan Neacsu。 API 请求通常在一秒钟内完成。