【问题标题】:Coping files from Azure blob storage to azure data lake store将文件从 Azure Blob 存储复制到 Azure Data Lake Store
【发布时间】:2019-04-01 17:18:49
【问题描述】:

我正在将文件从 Azure blob 存储复制到 azure 数据湖存储,我需要从年(文件夹)\月(文件夹)\日(txt 文件以日为基础)中选择文件。我可以做一个文件使用 hadrcoded 路径,但我无法每天选择文件并处理复制到 azure 数据湖存储中。谁能帮帮我。

我正在使用 ADF V2 并使用 UI 设计器来创建我的连接、数据集和管道,我的步骤工作正常

  • 将文件从 Blob 存储复制到数据湖存储
  • 从数据湖存储中挑选该文件并通过 usql 处理以转换数据。
  • 我保存在 Azure SQL DB 中的转换数据

请给我答案我无法获得任何帮助 b/c 所有帮助都在 JSON 中我正在寻找我将如何在 UI 设计器中定义和传递参数。

谢谢

【问题讨论】:

    标签: azure-data-factory azure-data-lake


    【解决方案1】:

    对于分区文件路径部分,您可以查看this post。 您可以使用复制数据工具来处理它。

    【讨论】:

    • 但是我的 usql 还需要从 azure 数据湖存储中动态选择这些文件,usql 将如何逐日从年月目录中选择这些文件?
    • 您可以将参数传递给您的 USQL 脚本。
    • docs.microsoft.com/en-us/azure/data-factory/… 此文档中有一个示例。希望对您有所帮助
    • 我在 ADF V2 中看不到年、月和日选项,您发送的链接 stackoverflow.com/questions/51936847/…
    • 我可以看到选项,一旦我使用反映在管道源上的参数更改数据集。谢谢它的工作。
    猜你喜欢
    • 2018-05-26
    • 1970-01-01
    • 2020-08-18
    • 2019-07-01
    • 1970-01-01
    • 1970-01-01
    • 2021-07-29
    • 1970-01-01
    • 2017-05-06
    相关资源
    最近更新 更多