如何让服务在分离的容器中运行？ [关闭]

Question

使用 docker 部署一个 uvicorn 服务器来服务一些 tensorflow 模型。 dockerfile 的结尾是这样的。

# Start ASGI server
CMD ['./runserver.sh']

runserver.sh 看起来像这样

#!/usr/bin/env bash
# encoding:utf-8
# This is a blocking call
uvicorn gateway:app --host=0.0.0.0 --workers 20 # Default port 8000

这是我用来启动容器的命令

docker run --detach --publish 8000:8000 tensor_image

我的期望和目标： 容器将保持活动状态，直到被 docker stop 命令杀死，并且客户端可以向 uvicorn 服务器发送请求。

发生了什么： docker run 命令只是在终端上回显容器的长 id，然后容器就死掉了。

如何保持运行？另外，如果我让 uvicorn 将其内容记录到容器内的本地文件中，如何查看服务器日志本身？

如果这很重要，请使用 Linux mint ulyana 作为我的操作系统。一些额外的澄清

Answer 1

您的问题与 docker 运行容器的方式有关。

您的容器将运行的主要进程取决于两个 Dockerfile 指令的组合，ENTRYPOINT 和 CMD。

简而言之 - 请考虑查看例如 this related SO question 以获得更深入的了解 - ENTRYPOINT 定义了将在您的容器启动时运行的命令。默认的ENTRYPOINT 命令是/bin/sh -c，它不能被docker 命令行覆盖。

另一方面，CMD 可以被视为补充参数，将附加到提供的ENTRYPOINT。如果您在运行容器时提供一些参数，它将被覆盖。

在此背景下，我认为您可以通过多种方式运行您的应用程序。

例如，通过使您的 Dockerfile ENTRYPOINT 成为您要运行的实际 shell 脚本：

ENTRYPOINT ["./runserver.sh"]

其他，通过使用CMD，但修改您的runserver.sh 脚本并使用exec 运行uvicorn：

#!/usr/bin/env bash
# encoding:utf-8
# To run in production with multiple slaves
exec uvicorn gateway:app --host=0.0.0.0 --workers 20 # Default port 8000

exec 触发运行脚本的进程被给定的命令替换，而不是将其作为新进程启动，这是运行 shell 命令时的默认行为。

您可以使用CMD 并直接提供uvicorn 命令 - 它应该对您的PATH 变量可见：

CMD ["uvicorn", "gateway:app", "--host", "0.0.0.0", "--workers", "20"]

执行任何这些更改将确保容器不会提前终止。

Answer 2

为了分离容器，您必须在阻塞模式下运行 CMD 语句。

在你的情况下，我无法重现，你应该运行 uvicorn 不是作为一个守护进程，而是作为一个阻塞应用程序。