【问题标题】:Getting Data Lake Metadata in Azure Data Factory's Data Flow在 Azure 数据工厂数据流中获取数据湖元数据
【发布时间】:2021-08-24 11:52:27
【问题描述】:

我想将复制镶木地板文件的时间戳添加到数据流中的数据帧中作为派生列。
在源模块中,我可以过滤 parquet files by last modified 这让我认为应该可以访问文件的元数据,包括通过派生列转换复制的时间戳,但我在其中找不到任何东西Microsoft documentation.

【问题讨论】:

  • 目前无法获取上次修改的时间戳以及从文件夹中读取的文件名。即将推出的一项称为浏览转换的功能将对此有所帮助。

标签: azure-data-factory azure-data-factory-2 azure-data-flow derived-column


【解决方案1】:

数据流表达式中没有函数可以获取最后修改时间。

作为一种解决方法,您可以创建一个 Get Metadata 活动来获取它,然后将它的值传递给数据流中的参数。

表达式:@activity('Get Metadata1').output.lastModified

【讨论】:

    猜你喜欢
    • 2023-03-25
    • 2020-07-06
    • 1970-01-01
    • 2018-08-01
    • 1970-01-01
    • 2017-11-18
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多