docker swarm 不会重新启动不健康的 selenium hub 容器答案

【问题标题】：docker swarm not restarting unhealthy selenium hub containersdocker swarm 不会重新启动不健康的 selenium hub 容器
【发布时间】：2020-05-19 12:25:06
【问题描述】：

我使用 docker swarm 部署了 selenium 网格。

docker-compose.yml

version: '3.7'

services:
  hub:
   image: selenium/hub:3.141.59-mercury
   ports:
     - "4444:4444"
   volumes:
     - /dev/shm:/dev/shm
   privileged: true
   environment:
     HUB_HOST: hub
     HUB_PORT: 4444
   deploy:
     resources:
       limits:
         memory: 5000M
     restart_policy:
       condition: on-failure
       window: 240s
   healthcheck:
     test: ["CMD", "curl", "-I", "http://127.0.0.1:4444/wd/hub/status"]
     interval: 1m
     timeout: 60s
     retries: 3
     start_period: 300s

  chrome:
    image:  selenium/node-chrome:latest
    volumes:
      - /dev/shm:/dev/shm
    privileged: true
    environment:
      HUB_HOST: hub
      HUB_PORT: 4444
      NODE_MAX_INSTANCES: 5
      NODE_MAX_SESSION: 5
    deploy:
      resources:
        limits:
          memory: 2800M
      replicas: 10
    entrypoint: bash -c 'SE_OPTS="-host $$HOSTNAME" /opt/bin/entry_point.sh'

问题是当hub 的状态是unhealthy 时，swarm 几乎不会重新启动它。只是几次我注意到它已成功重新启动。据我了解，它应该一直重启直到healthcheck 成功或永远，但是容器只是在unhealthy 状态下运行。

我尝试完全排除 restart_policy 以防它与 swarm 模式混淆，但没有效果。

另外：hub 成功重启后，chrome 容器（所有副本）似乎重启了。 docker-compose.yml中没有指定关系，怎么会这样？

我的设置可能有什么问题？

更新：

当我尝试检查容器时（在状态不正常且不再重试后），例如 docker container inspect $container_id --format '{{json .State.Health}}' | jq . 或容器上的几乎任何其他功能，它会因此输出而失败：

docker container inspect 1abfa546cc26 --format '{{json .State.Health}}' | jq .
runtime/cgo: pthread_create failed: Resource temporarily unavailable
SIGABRT: abort
PC=0x7fa114765fff m=0 sigcode=18446744073709551610

goroutine 0 [idle]:
runtime: unknown pc 0x7fa114765fff
stack: frame={sp:0x7ffe5e0f1a08, fp:0x0} stack=[0x7ffe5d8f2fc8,0x7ffe5e0f1ff0)
00007ffe5e0f1908:  73752f3a6e696273  732f3a6e69622f72 
00007ffe5e0f1918:  6e69622f3a6e6962  2a3a36333b30303d 
00007ffe5e0f1928:  3b30303d616b6d2e  33706d2e2a3a3633 
00007ffe5e0f1938:  2a3a36333b30303d  3b30303d63706d2e 
00007ffe5e0f1948:  67676f2e2a3a3633  2a3a36333b30303d 
00007ffe5e0f1958:  333b30303d61722e  3d7661772e2a3a36 
00007ffe5e0f1968:  2e2a3a36333b3030  333b30303d61676f 
00007ffe5e0f1978:  7375706f2e2a3a36  2a3a36333b30303d 
00007ffe5e0f1988:  3b30303d7870732e  0000000000000000 
00007ffe5e0f1998:  3a36333b30303d66  2a3a36333b30303d 
00007ffe5e0f19a8:  3b30303d616b6d2e  33706d2e2a3a3633 
00007ffe5e0f19b8:  2a3a36333b30303d  3b30303d63706d2e 
00007ffe5e0f19c8:  67676f2e2a3a3633  2a3a36333b30303d 
00007ffe5e0f19d8:  333b30303d61722e  3d7661772e2a3a36 
00007ffe5e0f19e8:  2e2a3a36333b3030  333b30303d61676f 
00007ffe5e0f19f8:  7375706f2e2a3a36  0000000000000002 
00007ffe5e0f1a08: <8000000000000006  fffffffe7fffffff 
00007ffe5e0f1a18:  ffffffffffffffff  ffffffffffffffff 
00007ffe5e0f1a28:  ffffffffffffffff  ffffffffffffffff 
00007ffe5e0f1a38:  ffffffffffffffff  ffffffffffffffff 
00007ffe5e0f1a48:  ffffffffffffffff  ffffffffffffffff 
00007ffe5e0f1a58:  ffffffffffffffff  ffffffffffffffff 
00007ffe5e0f1a68:  ffffffffffffffff  ffffffffffffffff 
00007ffe5e0f1a78:  ffffffffffffffff  ffffffffffffffff 
00007ffe5e0f1a88:  ffffffffffffffff  00007fa114acd6e0 
00007ffe5e0f1a98:  00007fa11476742a  0000000000000020 
00007ffe5e0f1aa8:  0000000000000000  0000000000000000 
00007ffe5e0f1ab8:  0000000000000000  0000000000000000 
00007ffe5e0f1ac8:  0000000000000000  0000000000000000 
00007ffe5e0f1ad8:  0000000000000000  0000000000000000 
00007ffe5e0f1ae8:  0000000000000000  0000000000000000 
00007ffe5e0f1af8:  0000000000000000  0000000000000000 
runtime: unknown pc 0x7fa114765fff
stack: frame={sp:0x7ffe5e0f1a08, fp:0x0} stack=[0x7ffe5d8f2fc8,0x7ffe5e0f1ff0)
00007ffe5e0f1908:  73752f3a6e696273  732f3a6e69622f72 
00007ffe5e0f1918:  6e69622f3a6e6962  2a3a36333b30303d 
00007ffe5e0f1928:  3b30303d616b6d2e  33706d2e2a3a3633 
00007ffe5e0f1938:  2a3a36333b30303d  3b30303d63706d2e 
00007ffe5e0f1948:  67676f2e2a3a3633  2a3a36333b30303d 
00007ffe5e0f1958:  333b30303d61722e  3d7661772e2a3a36 
00007ffe5e0f1968:  2e2a3a36333b3030  333b30303d61676f 
00007ffe5e0f1978:  7375706f2e2a3a36  2a3a36333b30303d 
00007ffe5e0f1988:  3b30303d7870732e  0000000000000000 
00007ffe5e0f1998:  3a36333b30303d66  2a3a36333b30303d 
00007ffe5e0f19a8:  3b30303d616b6d2e  33706d2e2a3a3633 
00007ffe5e0f19b8:  2a3a36333b30303d  3b30303d63706d2e 
00007ffe5e0f19c8:  67676f2e2a3a3633  2a3a36333b30303d 
00007ffe5e0f19d8:  333b30303d61722e  3d7661772e2a3a36 
00007ffe5e0f19e8:  2e2a3a36333b3030  333b30303d61676f 
00007ffe5e0f19f8:  7375706f2e2a3a36  0000000000000002 
00007ffe5e0f1a08: <8000000000000006  fffffffe7fffffff 
00007ffe5e0f1a18:  ffffffffffffffff  ffffffffffffffff 
00007ffe5e0f1a28:  ffffffffffffffff  ffffffffffffffff 
00007ffe5e0f1a38:  ffffffffffffffff  ffffffffffffffff 
00007ffe5e0f1a48:  ffffffffffffffff  ffffffffffffffff 
00007ffe5e0f1a58:  ffffffffffffffff  ffffffffffffffff 
00007ffe5e0f1a68:  ffffffffffffffff  ffffffffffffffff 
00007ffe5e0f1a78:  ffffffffffffffff  ffffffffffffffff 
00007ffe5e0f1a88:  ffffffffffffffff  00007fa114acd6e0 
00007ffe5e0f1a98:  00007fa11476742a  0000000000000020 
00007ffe5e0f1aa8:  0000000000000000  0000000000000000 
00007ffe5e0f1ab8:  0000000000000000  0000000000000000 
00007ffe5e0f1ac8:  0000000000000000  0000000000000000 
00007ffe5e0f1ad8:  0000000000000000  0000000000000000 
00007ffe5e0f1ae8:  0000000000000000  0000000000000000 
00007ffe5e0f1af8:  0000000000000000  0000000000000000 

goroutine 1 [running, locked to thread]:
runtime.systemstack_switch()
    /usr/local/go/src/runtime/asm_amd64.s:311 fp=0xc00009c720 sp=0xc00009c718 pc=0x565171ddf910
runtime.newproc(0x565100000000, 0x56517409ab70)
    /usr/local/go/src/runtime/proc.go:3243 +0x71 fp=0xc00009c768 sp=0xc00009c720 pc=0x565171dbdea1
runtime.init.5()
    /usr/local/go/src/runtime/proc.go:239 +0x37 fp=0xc00009c788 sp=0xc00009c768 pc=0x565171db6447
runtime.init()
    <autogenerated>:1 +0x6a fp=0xc00009c798 sp=0xc00009c788 pc=0x565171ddf5ba
runtime.main()
    /usr/local/go/src/runtime/proc.go:147 +0xc2 fp=0xc00009c7e0 sp=0xc00009c798 pc=0x565171db6132
runtime.goexit()
    /usr/local/go/src/runtime/asm_amd64.s:1337 +0x1 fp=0xc00009c7e8 sp=0xc00009c7e0 pc=0x565171de1a11

rax    0x0
rbx    0x6
rcx    0x7fa114765fff
rdx    0x0
rdi    0x2
rsi    0x7ffe5e0f1990
rbp    0x5651736b13d5
rsp    0x7ffe5e0f1a08
r8     0x0
r9     0x7ffe5e0f1990
r10    0x8
r11    0x246
r12    0x565175ae21a0
r13    0x11
r14    0x565173654be8
r15    0x0
rip    0x7fa114765fff
rflags 0x246
cs     0x33
fs     0x0
gs     0x0

为了解决它，我确实尝试应用此解决方案： https://success.docker.com/article/how-to-reserve-resource-temporarily-unavailable-errors-due-to-tasksmax-setting

但它不影响任何东西，因此，我猜原因是不同的。

journalctl -u docker 刚好满是这个日志：

 level=warning msg="Health check for container c427cfd49214d394cee8dd2c9019f6f319bc6637cfb53f0c14de70e1147b5fa6 error: context deadline exceeded"

【问题讨论】：

标签： docker selenium docker-compose docker-swarm

【解决方案1】：

首先，我会留下restart_policy。 Swarm 模式将为您恢复失败的容器，并且此策略在 swarm 模式之外处理，并可能导致意外行为。接下来，要调试运行状况检查，因为您已经为它配置了多次重试、超时和开始时间，所以要检查容器。例如。您可以运行以下命令：

docker container inspect $container_id --format '{{json .State.Health}}' | jq .

其中的输出将显示容器的当前状态，包括随时间变化的任何健康检查结果的日志。如果这表明容器失败超过 3 次且不健康，则检查服务状态：

docker service inspect $service_name --format '{{json .UpdateStatus}}' | jq .

这应该显示当前是否正在进行更新，更改的推出是否导致任何问题。

要查看的另一件事是内存限制。如果没有相应的内存预留，调度程序可能会将限制用作预留（我需要对此进行测试），如果您没有 10G 的可用内存尚未被其他容器预留，调度程序可能会失败重新安排服务。对此的简单解决方案是指定一个较小的预留，以确保在调度容器时在节点上始终可用。例如

   deploy:
     resources:
       limits:
         memory: 5000M
       reservations:
         memory: 1000M

基于最新的调试输出：

docker container inspect 1abfa546cc26 --format '{{json .State.Health}}' | jq .
runtime/cgo: pthread_create failed: Resource temporarily unavailable
SIGABRT: abort
PC=0x7fa114765fff m=0 sigcode=18446744073709551610

这表明主机本身或 docker 引擎导致了问题，而不是容器的配置。如果您还没有，我会确保您正在运行来自 docker 的最新稳定版本。最后检查，那是19.03.9。我会检查 /var/log/ 中的其他操作系统日志以了解主机上的任何其他错误。我会检查是否达到了资源限制，比如内存，以及任何与进程/线程相关的 sysctl 设置（例如 kernel.pid_max）。对于 docker，我还建议您更新内核和 systemd 版本，然后重新启动并更新到这些版本以应用更改。

我还建议检查 this unix.se post 是否有相同的错误，还有其他一些事情可以尝试。

如果这些都没有帮助，您可以提供详细信息以重现您的场景以解决类似的未解决问题：

【讨论】：

谢谢！但这并不能真正回答 - 健康检查调试并不是真正需要的，我知道它是如何失败的并且它是预期的。我只是希望它永远保持结果，直到成功。我确定可用内存 - 它就在那里。
以防万一——也许你知道当集线器被 swarm 重新启动时如何防止节点重新启动？如果我手动重新启动集线器容器，chrome 节点容器不会重新启动。
调试健康检查和服务状态有助于理解为什么 swarm 没有重启容器。
是的，以前试过 - 不工作。我在问题中添加了错误描述

【解决方案2】：

对于第一个问题，当 N 次重试失败时，Swarm 预计会重新启动不健康的容器。如果您想深入研究，请使用以下命令监控 docker 事件

docker events --filter event=health_status

对于第二个问题：- 每当集线器重新启动时，所有节点都会重新启动，这是预期的，因为集线器与所有节点保持会话，当您重新启动集线器时，它会重置所有会话并设置新节点。

【讨论】：

是的，我知道。我们的问题是，根据文档它必须重新启动直到成功，不是吗？
应该并且会尝试
是的，它应该是，但它没有发生，这就是问题的原因。关于第二个问题 - 知道如何让节点在集线器重启时不重启吗？如果我使用docker restart *container_id* 手动重新启动集线器，则节点不会重新启动。所以我猜蜂群正在重新启动它们。