【问题标题】:Calculate Hashes in Azure Data Factory在 Azure 数据工厂中计算哈希
【发布时间】:2020-09-06 00:39:21
【问题描述】:

我们需要将文件和文件夹从本地复制到 Azure Blob 存储。在复制文件之前,我想计算哈希并将其放入源位置的文件中。 我们希望使用 Azure 数据工厂来完成此操作。我在 Azure 数据工厂中找不到任何选项来计算文件系统类型对象的哈希值。一旦 blob 降落在目的地,我就能找到它的哈希值。 有人可以指导我如何实现这一目标。

【问题讨论】:

    标签: azure-data-factory-2


    【解决方案1】:

    您需要使用数据工厂中的数据流来转换数据。 在映射数据流中,您只需使用派生列和表达式添加列,例如使用 md5() 或 sha2() 函数来生成哈希。

    【讨论】:

    • 是的,它适用于多种格式的文件 - 例如 CSV 和 PARQUET
    • 我认为问题在于这是否适用于文件级别,答案是否定的。数据流散列仅适用于行/列级别。
    • 在新的集成运行时版本中,有一个选项可以检查数据不一致并设置选项在文件不一致时跳过文件复制,这对我有用。
    猜你喜欢
    • 2016-06-23
    • 2023-01-26
    • 1970-01-01
    • 2010-12-07
    • 2017-12-26
    • 2019-07-17
    • 2011-07-22
    • 2015-11-10
    • 2020-11-30
    相关资源
    最近更新 更多