【问题标题】:Data Factory waiting timeout for upstream dependencies上游依赖的数据工厂等待超时
【发布时间】:2017-12-28 10:56:30
【问题描述】:

我目前正在使用数据工厂 V1。

我有一个包含 2 个链接活动的管道:

。第一个活动是复制活动,它将 SQLDB 中的表提取到 Data Lake Store 中的 .tsv 文件中

。第二个活动是 Data Lake Analytics U-SQL 活动,它收集先前创建的 .tsv 文件中的数据并将其添加到 Data Lake 数据库中的现有表中。

显然,我只希望第二个活动在第一个活动之后运行,因此我使用第一个活动的输出数据集作为第二个活动的输入数据和它工作正常。

但是,如果第一个活动失败,第二个活动将卡在“等待:数据集依赖项(上游依赖项未准备好)”状态。

我为第二个活动设置了 policy->timeout 属性,但它似乎只在此活动开始后才起作用。因此,由于活动从不开始,它不会超时并且会一直卡住。

如何设置这个“等待”时间的超时时间?

谢谢

【问题讨论】:

    标签: pipeline azure-data-factory azure-data-lake


    【解决方案1】:

    这就是 v1 的工作原理。如果您的上游数据集失败,第二个将保持等待状态,直到第一个数据集成功完成。

    如果您正在使用计划,您可能希望解决第一个活动的问题并再次运行失败的切片。如果您使用的是一次性管道,则必须在解决问题后再次运行整个管道。

    超时仅在处理实际开始时起作用,如 de Data Factory documentation 中所写。

    如果切片上的数据处理时间超过超时值,则取消,系统会尝试重试处理。重试次数取决于 retry 属性。发生超时时,状态设置为 TimedOut。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2015-12-18
      • 2016-07-24
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2012-08-09
      • 1970-01-01
      相关资源
      最近更新 更多