【问题标题】:Data Fusion - Argument defined in Argument Setter Plugin Supersedes Runtime Arguments intermittently数据融合 - 参数设置器插件中定义的参数间歇性地取代运行时参数
【发布时间】:2020-04-15 15:51:43
【问题描述】:

使用 Data Fusion Argument Setter,我已经在其中定义了所有参数以实现可重用管道。在执行它时,我为一些参数提供了运行时参数,这些参数与 Argument Setter 中嵌入的 JSON URL 中提供的默认参数不同。 但是很多时候,管道最终会从参数设置器 URL 中获取默认值,而不是运行时参数,从而导致失败。

这种行为在我创建的每个管道中都不一致 - 这证实了运行时参数应该取代为参数定义的任何先前值。

我使用的解决方法是删除插件并为每个新管道重新添加它。但这违背了创建可重用管道的目的。

有人遇到过这个问题吗?

Current Runtime Options

【问题讨论】:

  • 您是否每次都检查这里描述的参数? cloud.google.com/data-fusion/docs/tutorials/…
  • 该文档可能已经过时了。这些选项不再存在。如果想在管道中使用 args,它们必须留空
  • 是的,你是对的。在这种情况下,您能否分享一个可重现的最小示例来复制您的问题?此外,如果可能,管道日志文件来自具有此行为的执行。

标签: google-cloud-data-fusion cdap


【解决方案1】:

此 wiki https://cloud.google.com/data-fusion/docs/tutorials/reusable-pipeline 提供了如何使用 Argument Setter 创建可重用管道的示例。从那里开始,似乎运行时参数用于通知数据融合管道使用来自 Argument Setter URL 的宏。 Argument Setter 是一种 Action 插件,它允许通过动态替换可以由 HTTP 服务器提供的配置来创建可重用的管道。看起来无论您如何更改运行时参数,只要在管道运行时可以读取相同的marco,参数就会被覆盖。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2010-12-17
    • 2011-08-17
    相关资源
    最近更新 更多