【发布时间】:2021-01-13 19:20:04
【问题描述】:
我有大约 9 个源系统(本地/基于云)。
- 对于初始负载和增量负载,每个源系统都必须最终位于数据湖的原始区域中。
- 但很少有人会通过标准化区域,然后进入暂存(SQL 表),这最终将是 由 Raw Vault (Data Vault 2.0) 处理使用。
- 休息将直接从原始区域到暂存(SQL 表)
我们完成了从源移动数据的所有管道 => 原始区域 => 标准化区域 => 暂存。
现在正在研究 ADF 编排框架,我应该能够根据元数据/下一个要运行的有效管道动态执行管道。
使用 Execute Pipeline 没有选项可以动态指定要执行的管道。
Logic App / Azure 功能的最佳选择是什么。
我想动态传递管道名称。
【问题讨论】:
-
如果您需要它真正可变,那么您需要构建一个队列/管理系统。这是我概述这个概念的另一个答案:stackoverflow.com/questions/61564943/…
-
@JoelCochran 谢谢会调查它。
-
这是我的另一个答案,其中包含更多信息:stackoverflow.com/questions/59085000/…
标签: azure-functions azure-data-factory azure-logic-apps procfwk