【问题标题】:File writing failing in docker production environment在 docker 生产环境中文件写入失败
【发布时间】:2021-08-15 05:48:21
【问题描述】:

在我的生产环境中,我无法写入文件。例如,我用 Celery 设置了一个测试任务,它每分钟将时间写入文件:

@celery_app.task(name='print_time')
def print_time():
    now = datetime.datetime.now().strftime('%Y %b %d %a @%H:%M')
    cur_time = {"now": now}
    print(f'The date and time sent: {cur_time}')
    json.dump(cur_time, open(PATH.abspath(PATH.join(APP_DIR, "data", "cur_time.json")), "w"))
    t = json.load(open(PATH.abspath(PATH.join(APP_DIR, "data", "cur_time.json"))))
    print(f'The date and time received: {t}')

这两个打印语句都会给出预期的结果,在我写这篇文章时,它们最后打印了:

The date and time sent: {'now': '2021 May 26 Wed @18:57'}
The date and time received: {'now': '2021 May 26 Wed @18:57'}

但是,当我设置一个视图来显示内容时:

class TimeView(TemplateView):
    def get_context_data(self, **kwargs):
        time = json.load(open(PATH.abspath(PATH.join(APP_DIR, "data", "cur_time.json"))))
        return time

很明显,当我转到 url 时,文件在开发环境中并没有真正更新,并且时间继续保持与我最初从开发环境 rsync 文件时相同的时间(这正在成功更新文件内容)

为了进一步验证这一点,我还运行了 cat cur_time.jsonstat cur_time.json 来验证文件没有被成功写入。

知道文件没有更新,我的问题有两个。一,为什么我的芹菜任务中的打印语句打印结果就像文件正在更新一样?二、这个问题最可能的原因和解决方法是什么?

我认为这与我的 Docker 容器文件写入权限有关,但我已经通过运行 chmod -R 777 data 更改了数据目录中的写入权限。此外,我还没有收到任何权限错误消息,当权限问题出现时,这些消息似乎被抛出。我开始达到我知识的极限,想知道是否有人知道问题/解决方案可能是什么。谢谢

编辑以响应 cmets:

我正在使用 docker-compose。这是我的 production.yml 文件:

version: '3'

volumes:
    production_postgres_data: {}
    production_postgres_data_backups: {}
    production_traefik: {}

services:
  django: &django
    build:
      context: .
      dockerfile: ./compose/production/django/Dockerfile
    image: myapp_production_django
    depends_on:
      - postgres
      - redis
    env_file:
      ...
    command: /start

  postgres:
    ...

  traefik:
    ...

  redis:
    image: redis:5.0

  celeryworker:
    <<: *django
    image: myapp_production_celeryworker
    command: /start-celeryworker

  celerybeat:
    <<: *django
    image: myapp_production_celerybeat
    command: /start-celerybeat

  flower:
    <<: *django
    image: myapp_production_flower
    command: /start-flower

响应 cmets 的第二次编辑:

这是我的 local.yml 文件的视图

version: '3'

volumes:
  local_postgres_data: {}
  local_postgres_data_backups: {}

services:
  django: &django
    build:
      context: .
      dockerfile: ./compose/local/django/Dockerfile
    image: myapp_local_django
    container_name: django
    depends_on:
      - postgres
    volumes:
      - .:/app:z
    env_file:
      ...
    ports:
      - "8000:8000"
    command: /start

  postgres:
    build:
      context: .
      dockerfile: ./compose/production/postgres/Dockerfile
    image: myapp_production_postgres
    container_name: postgres
    volumes:
      - local_postgres_data:/var/lib/postgresql/data:Z
      - local_postgres_data_backups:/backups:z
    env_file:
      ...

  redis:
    image: redis:5.0
    container_name: redis

  celeryworker:
    <<: *django
    image: myapp_local_celeryworker
    container_name: celeryworker
    depends_on:
      - redis
      - postgres
    ports: []
    command: /start-celeryworker

  celerybeat:
    <<: *django
    image: myapp_local_celerybeat
    container_name: celerybeat
    depends_on:
      - redis
      - postgres
    ports: []
    command: /start-celerybeat

  flower:
    <<: *django
    image: myapp_local_flower
    container_name: flower
    ports:
      - "5555:5555"
    command: /start-flower

【问题讨论】:

  • 你是如何配置你的 docker 容器的?你在用组合吗?您的 celery worker 和 web worker 都必须读取/写入共享的挂载卷
  • @IainShelvington 感谢您对我的问题感兴趣。我添加了我的 production.yml 文件的 sn-p。
  • 您的 django 或 celeryworker 服务中没有配置任何卷?除非您通过将这些文件写入共享卷来持久化/共享这些文件,否则写入的任何文件都将仅存在于正在运行的容器中
  • 不,这是 docker 的“限制”。您在 docker 容器中写入的任何文件都不会写入主机,除非您挂载卷并写入该卷
  • 是的,这将涉及对您的配置和应用程序的一些更改:在您的撰写配置中向全局“volumes:”添加一个新卷。将该卷安装在“django”服务中,所有 celery 服务都继承自该服务,因此应该共享它。从您挂载的位置写入和读取文件(这应该与应用程序挂载完全不同,例如“/celery-logs”之类的)

标签: django linux docker celery cookiecutter-django


【解决方案1】:

给予应得的功劳。上面的 cmets 中@IainShelvington 优雅地提出了问题和解决方案。

问题原因:“除非您挂载卷并写入该卷,否则您在 docker 容器中写入的任何文件都不会写入主机。”

问题解决方案:“在 compose 配置中向全局“volumes:”添加一个新卷。将该卷挂载到“django”服务中,所有 celery 服务都继承自该服务,因此应该共享它。编写和从您挂载的位置读取文件(这应该与应用挂载完全不同,例如“/celery-logs”之类的)”

为了在我的具体示例中演示此解决方案的外观,我将以下内容添加到我的 production.yml 文件中:

volumes:
  ...
  production_celery: {}

services:
  django: &django
    build:
      ...
    image: myapp_production_django
    depends_on:
      ...
    volumes:
      - production_celery:/app/celerydata:z
    env_file:
      ...
    command: /start

然后,从我的 celery 脚本派生的所有数据文件都被发送到名为“celerydata”的新卷/目录并从中提取

正如 cmets 中提到的,我的应用程序以前依赖于 APScheduler,并且我已经习惯于快速将数据文件写入主机并能够轻松地查看它们。为了再次在主机上查看它们并作为安全预防措施(数据冗余),我开始使用以下命令序列将文件从 celerydata 目录复制到我的本地机器,在那里我可以更轻松地查看它们图形界面:

docker ps # note container_id == ${CID} below
export CID=foobarbaz123
docker cp ${CID}:/app/celerydata ./celery_storage

在未来的某个时候,我可能会将其制成一个脚本,以便在启动容器时运行,并相应地更新答案。

【讨论】:

    猜你喜欢
    • 2019-10-14
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多