【发布时间】:2020-09-21 16:41:50
【问题描述】:
我有一个菱形风格的工作流程,其中一个步骤A 使用withParam: 启动可变数量的分析作业B 到X。作业的数量基于动态信息并且在第一步运行之前是未知的。这一切都很好,除了我还想要一个聚合器作业Y 来运行所有这些分析作业的输出:
B
/ \
/ C \
/ / \ \
A-->D-->Y
\ . /
\ . /
\./
X
B-X 的每个分析作业都会写入工件,Y 需要所有这些工件作为输入。我不知道如何为Y 指定输入。这可能吗?我尝试传入工件 keys 的 JSON 数组,但 pod 卡在 pod 初始化中。我找不到任何有关如何执行此操作的示例。
A 创建了几个由B-X 使用的工件(作为withParam: 的一部分,每个作业一个)所以我知道我的工件存储库设置正确。
B-X 的每个作业都需要大量 CPU,因此将在不同的节点上运行,所以我认为共享卷不会起作用(尽管我不太了解跨节点共享卷不同的节点)。
【问题讨论】: