【问题标题】:How to use two file extensions as wildcard (*.csv or *.xml) in Azure data factory?如何在 Azure 数据工厂中使用两个文件扩展名作为通配符(*.csv 或 *.xml)?
【发布时间】:2021-06-09 17:06:24
【问题描述】:

我在 ADLS 中有一个路径,其中包含一系列不同的文件,包括 *.csv*.xml(这不是真的 xml,它只是带有 xml 扩展名的 csv)。

我只想使用 ADF 中的复制活动将此路径中的 *.csv*.xml 文件复制到另一个路径。现在我只能在复制活动的文件名中将其中一个指定为通配符,而不能同时指定两者。 有没有办法指定两个通配符,例如.csv or .xml

顺便说一句,我也许可以使用过滤器活动来获取元数据,但如果有其他方法,那就太多了。 这个documentation 也没有太大帮助:

正如我所说,过滤不起作用(没有 forEach),并且没有优化:

【问题讨论】:

    标签: azure azure-data-factory-2 azure-data-factory-pipeline


    【解决方案1】:

    不,没有办法指定两个通配符路径。

    根据我的经验,最简单的方法是您可以在一个管道中创建两个活动副本:

    1. 复制活动1:复制以*.csv结尾的文件。
    2. 复制active2:复制以*.xml结尾的文件。

    对于您的另一个问题,有很多方法可以实现。您可以添加一个 if 条件来过滤条件:仅复制活动 1 和 2 都为真/成功:

    你也可以这样做@Nandan 说:

    【讨论】:

    • 这是一个很好的解决方法,但是如果我在这些副本之后还有另一个活动,那么下一个活动是否会在开始之前等待之前的副本完成。更不用说在两个副本之后,我处理并将所有文件复制到 SQL DB,所以我希望在复制 xml 和 csv 之后开始处理阶段。
    • 嘿,您可以在成功完成两个复制活动(XML、CSV)后继续进行进一步的活动。
    • @mas 有很多方法可以实现它。请查看我的更新。
    猜你喜欢
    • 2020-08-31
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2021-04-23
    • 2020-12-04
    • 2023-03-10
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多