如何通过自动缩放优雅地终止 kubernetes pod？

Question

我们的应用需要处理的请求表现出处理延迟（从几秒到几小时）的巨大差异（事先未知）。

我们想使用 kubernetes 自动缩放功能，但不清楚如何在缩减期间处理随机 pod 终止策略（因为这与我们希望不终止正在处理的长时间运行的请求不一致）。

想知道其他人是否见过类似的情况？你想出了什么解决方案？

Answer 1

您可以做的其中一件事是在您的应用中构建对终止处理的支持，并设置一个相当长的终止宽限期。您可以在 https://pracucci.com/graceful-shutdown-of-kubernetes-pods.html

中找到有关此主题的精彩解释

这并不能完全阻止您终止长期连接。老实说，什么都不会。然而，它确实显着限制了扩展等事件对此类工作负载的影响。