【发布时间】:2022-08-18 21:15:51
【问题描述】:
用例是将数据从 Salesforce 拉到 Azure SQL Server。管道将在计划的触发器上运行,并且在每次运行时,我们都需要获取上次管道运行后修改的数据。
需要帮助理解,我们如何在每次运行之间传递管道触发时间并在查询中使用它。
标签: azure azure-data-factory azure-data-factory-pipeline
用例是将数据从 Salesforce 拉到 Azure SQL Server。管道将在计划的触发器上运行,并且在每次运行时,我们都需要获取上次管道运行后修改的数据。
需要帮助理解,我们如何在每次运行之间传递管道触发时间并在查询中使用它。
标签: azure azure-data-factory azure-data-factory-pipeline
Azure 数据工厂支持基于上次修改增量加载数据库。为了实现我们的目标,在您的数据库中创建表来存储每个管道的结束时间以供将来使用。增量复制可以通过以下几个步骤完成:
utcnow() 的活动作为新更新。然后根据您的要求触发管道以复制在上次管道运行后更新的数据。
【讨论】: