重新加载需要很长时间才能加载的 gunicorn 工人

Question

我有一个 Nginx+Gunicorn+Flask 应用程序，它使用机器学习模型提供一些 API。模型存储在一个大文件中，需要很长时间（大约一分钟）才能加载到内存中。 现在我想更新模型文件并在不停机的情况下重新启动worker。如何配置 gunicorn（或其他东西）以等待新进程加载？

仅发送kill -HUP 似乎不足以达到目的。在新进程加载之前出现的请求似乎被丢弃了。

Answer 1

gunicorn 有一个参数：

-t, --timeout.

静默超过这么多秒的工作器将被杀死并重新启动。