【问题标题】:How to evenly distribute the DAGs runs execution during the day如何在白天平均分配 DAG 运行执行
【发布时间】:2018-09-29 02:09:17
【问题描述】:

我有大量的 DAGS (>>100.000),应该每天运行一次。 为了在一天中的某些时间(以及其他原因)不会出现大的处理峰值,我希望实际的 DAG 运行在一天中均匀分布。 我是否需要自己以编程方式在一天中分发 start_date,还是有更好的方法让 Airflow 为我做到这一点?

【问题讨论】:

  • 一个可能的解决方案:如果您创建一个或多个池,每个池都有有限数量的插槽,您可以有效地设置执行的“最大并行度”,并且任务将等待直到插槽可用。但是,它可能无法为您提供所需的足够灵活性
  • @RobinL 请将此作为答案

标签: scheduler airflow directed-acyclic-graphs


【解决方案1】:

一种可能的解决方案:如果您创建一个或多个池,每个池都有有限数量的插槽,您可以有效地设置执行的“最大并行度”,并且任务将等待直到插槽可用。但是,它可能无法为您提供所需的足够灵活性

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2019-07-19
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2023-03-07
    • 2019-09-03
    • 1970-01-01
    • 2011-04-15
    相关资源
    最近更新 更多