【问题标题】:Azure Data Factory Pipeline Orchestration FrameworkAzure 数据工厂管道编排框架
【发布时间】:2021-01-13 19:20:04
【问题描述】:

我有大约 9 个源系统(本地/基于云)。

  1. 对于初始负载和增量负载,每个源系统都必须最终位于数据湖的原始区域中。
  2. 但很少有人会通过标准化区域,然后进入暂存(SQL 表),这最终将是 由 Raw Vault (Data Vault 2.0) 处理使用。
  3. 休息将直接从原始区域到暂存(SQL 表)

我们完成了从源移动数据的所有管道 => 原始区域 => 标准化区域 => 暂存。

现在正在研究 ADF 编排框架,我应该能够根据元数据/下一个要运行的有效管道动态执行管道。

使用 Execute Pipeline 没有选项可以动态指定要执行的管道。

Logic App / Azure 功能的最佳选择是什么。

我想动态传递管道名称。

【问题讨论】:

标签: azure-functions azure-data-factory azure-logic-apps procfwk


【解决方案1】:

如果您没有太多要定向的管道,您可以在管道中使用Switch activity,根据元数据针对不同情况运行不同的管道。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2019-10-24
    • 1970-01-01
    • 2020-08-15
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2021-07-21
    • 1970-01-01
    相关资源
    最近更新 更多