【问题标题】:Airflow catch set to false does not work via config and codeAirflow catch 设置为 false 不能通过配置和代码工作
【发布时间】:2020-03-07 03:49:51
【问题描述】:

我正在尝试了解 Airflow 的情况。我已经使用 catchup=False 参数设置了我的 DAG。但是,当我启用它时,它只是从 start_date 开始运行作业。我还尝试将 airflow.cfg 设置为 False,但那里也没有运气。

另外,我一直在尝试了解清除和回填的工作原理。如果当前日期在 start_date 之前,似乎 clear 只会将状态设置为 NULL,但如果它在 start_date 之后,则会清除状态并触发日期的 dag。我想明确任何日期以简单地将当天管道的状态设置为无,就像它在 start_date 之前所做的那样。

这是一个已知的气流错误吗?我的用例是能够清除任何日期范围,然后在同一日期范围内运行回填。

【问题讨论】:

  • 这将有助于提供您的 Airflow 版本以及提供您的 DAG 代码。

标签: airflow airflow-scheduler


【解决方案1】:

对于您关于 clear 的问题:我会说这是一项功能,而不是错误。从操作的角度来看,它非常方便。

当 DAG 已运行且其中一项任务失败时,也许有一些可以纠正的东西使该任务(和相关任务)能够成功。因此,如果您去纠正那个问题(例如缺少连接定义、防火墙问题等),您可以清除该任务(以及下游任务),然后调度程序会自动将 DAG 置于运行状态并重新启动清除任务。

【讨论】:

    猜你喜欢
    • 2014-09-17
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2010-10-27
    • 2012-12-07
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多