【问题标题】:Where are the hadoop-examples* and hadoop-test* jars in Cloudera CDH?Cloudera CDH 中的 hadoop-examples* 和 hadoop-test* jar 在哪里?
【发布时间】:2013-05-01 04:46:54
【问题描述】:

我正在寻找能够运行与示例和测试 jar 相关联的 hadoop 作业的 jar 文件。过去它们位于 /usr/lib/hadoop 下,但显然不再存在。指针表示赞赏。

注意:这个问题最初是针对 CDH4.2 的。但有些答案包括以后版本的信息

【问题讨论】:

    标签: hadoop mapreduce cloudera


    【解决方案1】:
    find / -name hadoop-mapreduce-examples*.jar
    

    /usr/lib/hadoop-mapreduce/hadoop-mapreduce-examples-2.0.0-cdh4.7.0.jar

    /usr/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar

    【讨论】:

      【解决方案2】:

      在 CentOS 版本 6.5(最终版)的单节点 Hadoop 2.3.0-cdh5.0.2 设置中,我在 /usr/lib/hadoop-mapreduce/hadoop-mapreduce-examples-2.3.0-cdh5 找到了 mapred 示例.0.3.jar(符号链接自 /usr/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar)。通过http://www.cloudera.com/content/cloudera-content/cloudera-docs/CDH5/latest/CDH5-Installation-Guide/cdh5ig_tips_guidelines.html

      【讨论】:

        【解决方案3】:

        我在 /usr/local/lib 下找到它们如下(将 4.2.1 替换为您正在使用的特定 cloudera 版本):

        mrv1: /usr/local/lib/hadoop_mr1/hadoop-examples-2.0.0-mr1-cdh4.0.1.jar mrv2:/usr/local/lib/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.0.0-cdh4.2.1.jar

        所以我们可以这样运行:hadoop jar /usr/local/lib/hadoop_mr1/hadoop-examples-2.0.0-mr1-cdh4.0.1.jar pi 500 40

        【讨论】:

        • 在 hadoop-2.6.0 中,它们位于 /usr/local//hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.6.0.jar,只是没有 lib
        【解决方案4】:

        正如其他人所说,根据操作系统和安装程序,可以配置安装位置。对于 RHEL 上的 CDH4,使用 cloudera manager 作为安装程序,可以在以下位置找到示例和测试 jar。

        /opt/cloudera/parcels/CDH-4.2.0-1.cdh4.2.0.p0.10/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar

        '/opt/cloudera/parcels/CDH-4.2.0-1.cdh4.2.0.p0.10/lib/hadoop/hadoop-common-2.0.0-cdh4.2.0-tests.jar'
        

        【讨论】:

          【解决方案5】:

          所以他们根据新 API 中的 hadoop 目录更改移动了一些东西。

          ${CDH4_DIR}/share/hadoop/mapreduce/hadoop-mapreduce-examples-*.jar
          ${CDH4_DIR}/share/hadoop/common/hadoop-common-*-tests.jar
          

          但是现在大部分jar文件所在的目录在

          ${CDH4_DIR}/share/hadoop/
          

          【讨论】:

          • 请提供完全限定路径而不是相对路径。谢谢!
          • 对不起,我不确定我真的可以。我更新了我的答案以包括我从哪里开始,但我下载了 cloudera 包并将罐子放在我想要的地方。我不使用任何类型的安装程序。
          【解决方案6】:

          我在我的环境中发出 find 命令。 Red Hat Linux. Hadoop 2.5.0

          find / -name examples.jar /app/hadoop-2.5.0/share/hadoop/mapreduce/sources/hadoop-mapreduce-examples-2.5.0-sources.jar /app/hadoop-2.5.0/share/hadoop/mapreduce/sources/hadoop-mapreduce-examples-2.5.0-test-sources.jar

          /app/hadoop-2.5.0/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.5.0.jar

          /usr/java/jdk1.6.0_24/demo/jpda/examples.jar

          【讨论】:

            猜你喜欢
            • 1970-01-01
            • 1970-01-01
            • 2013-02-17
            • 1970-01-01
            • 1970-01-01
            • 1970-01-01
            • 1970-01-01
            • 1970-01-01
            • 1970-01-01
            相关资源
            最近更新 更多