【问题标题】:ClusterID vs JobFlowID on AWS EMRAWS EMR 上的 ClusterID 与 JobFlowID
【发布时间】:2015-07-06 22:09:50
【问题描述】:

我对可用的 API 和两个标识符有点困惑。 我正在使用 boto,但不要认为这是这里的问题:我的问题与任何 api(但不是 cli)有关。

我使用 RunJobFlow 启动一个 JobFlow,它返回一个 JobFlowId。假设我不想保留这个数字,而是稍后查找 JobFlows 正在运行的内容以向它们添加步骤。

我想我应该能够使用 DescribeJobFlows 来查找所有 jobflow_ids 并从那里继续。但在文档 (http://docs.aws.amazon.com/ElasticMapReduce/latest/API/API_DescribeJobFlows.html) 中,此 api 调用被标记为已弃用,并指示我们使用返回 cluster_ids 的 ListClusters。

是什么将两者联系在一起?它是相同的标识符吗?如果不是,我如何从集群 id 获取工作流 id?

我认为混淆还来自这样一个事实,即 cli 上的命令是“create-cluster”并返回一个 cluster_id,而 add-steps 也需要一个 cluster_id....

【问题讨论】:

    标签: amazon-web-services boto emr


    【解决方案1】:

    集群 id 和作业流 id 是同一个东西 (j-######)。集群 ID 是更适合其用途的名称,以免与 Hadoop 中的作业术语混淆。所以继续使用 ListClusters (http://docs.aws.amazon.com/ElasticMapReduce/latest/API/API_ListClusters.html)。

    【讨论】:

    • 非常感谢。术语非常混乱。
    猜你喜欢
    • 1970-01-01
    • 2015-10-06
    • 1970-01-01
    • 2016-01-14
    • 1970-01-01
    • 2017-03-22
    • 2017-10-03
    • 2022-01-16
    • 2017-07-16
    相关资源
    最近更新 更多