【问题标题】:adf v2 copy data tool with 787 tables (sql server) only creates pipeline with 340 in pipeline parameters json. why?具有 787 个表的 adf v2 复制数据工具(sql server)仅在管道参数 json 中创建具有 340 的管道。为什么?
【发布时间】:2023-04-07 17:43:02
【问题描述】:

我正在使用 Azure 数据因素的复制数据工具。我的来源在 prem sql server 上。我的接收器目标是 azure sql mi。我正在选择 787 个表,整个向导过程运行良好,并且似乎生成了工件(管道、数据集、链接服务等)。

当我运行管道时,它只复制了 340 个表,因为管道参数只有 340 个表而不是 787 个表的 json 代码!我重复了相同的复制数据工具步骤,第二次得到了相同的结果。管道参数的类型为“数组”,并且似乎是生成的 json,用于提供我在 adf 复制数据工具向导期间选择的所有表。

我是否达到了某种限制,你知道解决方法吗?

【问题讨论】:

    标签: azure-data-factory azure-data-factory-2


    【解决方案1】:

    我认为我们可以使用查询来获取所有表名,然后将这些表名传递给复制活动。

    select  concat(s.name,'.',ov.name) as tableName
        from 
            sysobjects o  
            join sys.objects ov on o.id = ov.object_id
            join sys.schemas s ON ov.schema_id = s.schema_id
        where o.xtype = 'U'
    

    例如:

    1. 使用查找活动来获取表名列表。

    2. 然后通过表达式@activity('Lookup1').output.value foreach 列表。

    3. 在 Foreach 活动中,我们可以使用 Copy 活动。

    4. 我们可以在Source选项卡中编辑表名,输入动态内容@item().name

    5. 我们可以在 Sink 选项卡中编辑表名。

    【讨论】:

      猜你喜欢
      • 2019-02-22
      • 1970-01-01
      • 1970-01-01
      • 2020-08-31
      • 1970-01-01
      • 1970-01-01
      • 2017-10-12
      • 2021-10-27
      • 1970-01-01
      相关资源
      最近更新 更多