【问题标题】:Airflow tasks with different schedules in the same dag同一 dag 中具有不同计划的 Airflow 任务
【发布时间】:2019-07-24 17:09:28
【问题描述】:

我想在同一个 DAG 中让一些任务每天运行,而另一些任务每周运行,是否可以或应该为不同的计划任务创建不同的 DAG?

我看到了使用ShortCircuitOperatorAirflowSkipException 的解决方案,我想知道这是否是一种好的做法或绕过Airflow 限制的一种方法。最后我的问题是:使用ShortCircuitOperatorAirflowSkipException 是可以接受的还是使用新的DAG 更好?

【问题讨论】:

  • 感谢您的建议。我已经看到了这个解决方案,我想知道这是否是一种好的做法或绕过 Airflow 限制的一种方法。最后我的问题是:使用ShortCircuitOperatorAirflowSkipException 是可以接受的还是使用新的DAG 更好?
  • @ValentinRicher:你找到适合这种情况的解决方案了吗?
  • 是的,我认为创建两个独立的 DAG 是最好的解决方案

标签: airflow


【解决方案1】:

这是this 的副本。

简而言之,配置特定任务的start_date 参数,引入依赖关系,或者使用池来按运行时/优先级隔离任务。

【讨论】:

  • 谢谢,但建议的解决方案不适用: 1. 修改每个任务的 start_date 不是一件好事 2. 使用池来饿死一些任务并支持其他任务是不可能的,因为它是不是某些任务与其他任务相比执行速度有多快的问题 3. priority weight 不会完成这项工作,因为我需要一个精确的时间表
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2019-03-19
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2021-08-07
相关资源
最近更新 更多