【问题标题】:Airflow find DAG Runs with specific confAirflow find DAG Runs with specific conf
【发布时间】:2020-06-18 09:18:26
【问题描述】:

我正在使用 apache-airflow 1.10.10

我的用例是:我有 4 个 DAG,经过一些工作后,它们都使用 BashOperator 触发了一个名为 "dag_common" 的通用 DAG,具有不同的 conf 参数。

airflow trigger_dag -c {"id":"1"} dag_common

airflow trigger_dag -c {"id":"2"} dag_common

airflow trigger_dag -c {"id":"3"} dag_common

airflow trigger_dag -c {"id":"4"} dag_common

在这些 DAG 中,我必须等待触发的 DAG 完成,我该如何完成?

Dag1 必须等到使用 conf id=1 完成 dag_common。 有什么方法可以找到所有具有特定 conf 的 dag 运行?

【问题讨论】:

    标签: airflow


    【解决方案1】:

    这看起来像是SubDAGs 的用例:将dag_common 实现为子DAG,并在这四个DAG 中使用SubDagOperator() 来运行dag_common

    【讨论】:

      猜你喜欢
      • 2021-05-14
      • 1970-01-01
      • 2018-05-13
      • 2021-12-08
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多