【问题标题】:Azure Data factory - get metadata activity - The length of execution output is over limit (around 4MB currently)Azure 数据工厂 - 获取元数据活动 - 执行输出的长度超出限制(目前约为 4MB)
【发布时间】:2021-08-11 11:04:01
【问题描述】:

我遇到了一些问题,希望你们中的一些人之前已经解决了这个问题并且可以帮助我。 :)

我在 ADF 中有一个管道,它使用获取元数据活动来获取文件列表,然后它迭代每个项目,并根据从文件名派生的某些值,解压缩文件并将其保存到另一个文件夹。

现在问题是每个文件夹都包含很多文件,我得到 4 mb 限制错误。你有这方面的经验吗?解决这个问题的最佳方法是什么?我应该考虑编写 azure 函数吗?还有其他解决方案吗?

【问题讨论】:

    标签: out-of-memory azure-data-factory


    【解决方案1】:

    是的,今天获取元数据活动的限制是它不能返回大于 4MB 的结果。一种可能的方法是修改源文件以加载到单独的文件夹中,每个文件夹包含

    限制:https://docs.microsoft.com/en-us/azure/data-factory/control-flow-get-metadata-activity

    参考:https://docs.microsoft.com/en-us/azure/storage/blobs/storage-blobs-list?tabs=dotnet https://www.mssqltips.com/sqlservertip/6361/process-blob-files-automatically-using-an-azure-function-with-blob-trigger/

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2019-04-24
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2021-01-25
      • 1970-01-01
      • 1970-01-01
      • 2020-12-13
      相关资源
      最近更新 更多