【问题标题】:Add job to existing Airflow DAG without dependency on any job将作业添加到现有 Airflow DAG,而不依赖于任何作业
【发布时间】:2021-07-12 04:10:15
【问题描述】:

我正在创建一个 Airflow 作业,它将作为具有 n 个作业的现有 dag 的一部分运行。我必须将这个新工作添加为独立工作

我目前的工作依赖如下

accountable_job >> dq_check >> dq_a1_validaton_job >> data_aggregation_job >> sync_job

我必须添加另一个独立的作业 dq_b1_validaton_job,但 dq_a1 验证后的作业将依赖于 dq_b1_validaton_job。在排序中 dq_a1_validaton_job 和 dq_b1_validaton_job 将并行,但 dq_b1_validaton_job 将独立于任何作业。

【问题讨论】:

    标签: airflow-scheduler airflow


    【解决方案1】:

    您只需将其添加到 dag。使用上下文管理器:

    with Dag(...):
        independent_task = YourOperator()
    

    或通过将 dag 作为参数传递:

    your_dag = Dag(....)
    
    independent_task = YourOperator(..., dag=your_dag)
    
    

    https://airflow.apache.org/docs/apache-airflow/stable/concepts/dags.html#declaring-a-dag

    【讨论】:

      猜你喜欢
      • 2018-10-01
      • 1970-01-01
      • 2020-01-25
      • 2017-03-21
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2015-11-04
      • 1970-01-01
      相关资源
      最近更新 更多