【问题标题】:Concurrent tasks workers with celery芹菜的并发任务工人
【发布时间】:2017-09-11 05:16:26
【问题描述】:

我有一个 20 个 mongodb 集合,用于存储有关我当前正在使用 cron 作业处理的任务的一些数据。

在使用 cron 作业时,每个集合都有一名工作人员。我想改进这种安排,我正在研究芹菜。我希望每个集合至少有 4 个工作人员,因为我在每个集合中有很多记录。

我希望作业在它们到来时完成,而不是像使用 cron 作业时那样等待五分钟。

这对我来说有可能按照我描述的方式在芹菜中每个集合有 4 个工人吗?

【问题讨论】:

    标签: mongodb celery celery-task


    【解决方案1】:

    Celery 工作人员会在新任务启动后立即挑选任务并执行它,celery 可以使用 redis 或 rabittMQ 来存储任务队列。任何一天,您都可以通过在多台机器上分布式运行芹菜或扩大机器并增加工人数量来扩展芹菜。 https://www.slideshare.net/nicolasgrasset/scaling-up-task-processing-with-celery

    不要使用 crontab,而是使用 celery beat,它是 celery 的任务调度程序。

    不需要有收集明智的芹菜工人。

    请通过以下 celery 文档了解 celery。

    http://docs.celeryproject.org/en/latest/getting-started/introduction.html

    【讨论】:

      最近更新 更多