【发布时间】:2018-09-29 02:09:17
【问题描述】:
我有大量的 DAGS (>>100.000),应该每天运行一次。 为了在一天中的某些时间(以及其他原因)不会出现大的处理峰值,我希望实际的 DAG 运行在一天中均匀分布。 我是否需要自己以编程方式在一天中分发 start_date,还是有更好的方法让 Airflow 为我做到这一点?
【问题讨论】:
-
一个可能的解决方案:如果您创建一个或多个池,每个池都有有限数量的插槽,您可以有效地设置执行的“最大并行度”,并且任务将等待直到插槽可用。但是,它可能无法为您提供所需的足够灵活性
-
@RobinL 请将此作为答案
标签: scheduler airflow directed-acyclic-graphs