【问题标题】:parallel execution of mapreduce jobsmapreduce 作业的并行执行
【发布时间】:2013-10-10 10:12:46
【问题描述】:

我有一个问题。我可以使用 JobCntrol 在 hadoop 中同时执行两个或多个作业吗? 我有 2 个可以并行执行的作业,而其他作业与这两个作业有依赖关系?我怎样才能用 JobControl 做到这一点? 当我使用它时,它给出了错误: java.lang.IllegalStateException: Job 处于 RUNNING 而不是 DEFINE 状态

【问题讨论】:

    标签: hadoop mapreduce job-control


    【解决方案1】:

    当您想要并行执行作业时,不需要 JobControl。只需使用JobClient.runJob() API 提交作业。当有一个简单的 DAG 作业时使用 JobControl。

    【讨论】:

    • 非常感谢您的回复..还有另一个问题..我想知道什么是连锁工作?我的意思是chainMapper和chainReducer。
    • @Anse danesh:为了了解连锁工作,我写了一篇博客:unmeshasreeveni.blogspot.in/2014/04/…
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2018-01-21
    • 1970-01-01
    • 2020-03-07
    相关资源
    最近更新 更多