【问题标题】:Job keeps running in LocalJobRunner under Cloudera 5.1作业在 Cloudera 5.1 下的 LocalJobRunner 中持续运行
【发布时间】:2014-08-22 20:14:29
【问题描述】:

需要一些快速帮助。我们的作业在 MapR 下运行良好,但是当我们在 Cloudera 5.1 上启动相同的作业时,它一直在本地模式下运行。

我确定这是某种配置问题。它是哪个配置设置?

14/08/22 12:16:58 INFO mapreduce.Job: map 0% reduce 0%
14/08/22 12:17:03 INFO mapred.LocalJobRunner: map > map
14/08/22 12:17:06 INFO mapred.LocalJobRunner: map > map
14/08/22 12:17:09 INFO mapred.LocalJobRunner: map > map

谢谢。

【问题讨论】:

    标签: hadoop mapreduce cloudera cloudera-cdh


    【解决方案1】:

    问题是 Cloudera 5.1 在 Yarn 下运行“Yarn”分发,如果你想开始你不应该使用的 MapReduce 作业:

    java -cp $CLASSPATH CLASSNAME(在 Yarn 下,这将在本地模式下启动作业。)

    你必须使用

    纱线 -cp $CLASSPATH CLASSNAME

    另外,我学到的另一件事是,您可以通过运行以下命令来获取 HADOOP 类路径:

    yarn 类路径

    【讨论】:

    • 是的,Hadoop 2.x 使用 YARN 已经有一段时间了,MapReduce 作为“MRv2”运行。但是您仍然可以安装“MRv1”,它的行为可能类似于 mapr。查看“mr1”工件和名为“mapreduce”的服务虽然您不能同时使用基于 YARN 的 MRv2 和 MRv1。
    • 我面临同样的问题,但在伪分布式模式下..stackoverflow.com/questions/32787996/…。请帮忙。
    猜你喜欢
    • 1970-01-01
    • 2017-09-30
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多