【问题标题】:How to list the running dags in airflow worker pod如何列出气流工作吊舱中正在运行的 dag
【发布时间】:2021-01-20 18:33:47
【问题描述】:

我们有 3 个 composer GKE 节点和 3 个 worker pod,均匀分布在所有 3 个节点中。我需要知道如何检查哪个 DAG 或任务当前在哪个 pod 中运行。我尝试运行气流 list_dag,但它显示了我认为的所有 dag。我只需要知道哪个 dag 在哪个 pod 中运行。是否可以将 pod 从一个节点移动到另一个节点。有时我的 pod 并不均匀分布在所有 3 个节点中。

【问题讨论】:

    标签: google-cloud-composer airflow


    【解决方案1】:

    有两种方法可以从 Airflow UI 获取此信息:

    • 您可以转到 Browse -> Task Instances 并获取 主机名 以了解任务在哪个工作人员上运行。您还可以应用过滤器等。

    • 或者您可以转到 Data Profiling 运行 Ad Hoc Query,例如:

    SELECT dag_id, task_id, state, hostname 
    FROM task_instance
    WHERE state = "running"
    

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2022-11-02
      • 2017-08-24
      • 2017-09-06
      • 2022-01-21
      • 1970-01-01
      • 2016-12-09
      • 1970-01-01
      • 2019-07-21
      相关资源
      最近更新 更多