【问题标题】:Test if Hadoop is correctly working测试 Hadoop 是否正常工作
【发布时间】:2014-06-18 00:06:27
【问题描述】:

我现在如何测试我的 hadoop 安装?我找不到 adoop-examples-1.1.2.jar。 有没有其他方法可以测试 Hadoop 和 Mahout 是否正常工作?

提前致谢。

【问题讨论】:

    标签: java maven hadoop mahout


    【解决方案1】:

    您可以运行 mapreduce hello world 作业。请注意,您的路径可能略有不同:

    1. HADOOP_HOME 是安装 hadoop 的目录。
    2. <HADOOP_HOME>/input/file01 中存在的示例测试输入文件
    3. 在你的 hdfs 中准备目录结构:
      • <HADOOP_HOME>/bin/hdfs dfs -mkdir /wordcount
      • <HADOOP_HOME>/bin/hdfs dfs -mkdir /wordcount/input
      • <HADOOP_HOME>/bin/hdfs dfs -mkdir /wordcount/output
    4. file01文件放入hdfs:
      • <HADOOP_HOME>/bin/hdfs dfs -put <HADOOP_HOME>/input/file01 /wordcount/input
    5. 转到带有示例 jar 的目录:
      • cd <HADOOP_HOME>/share/hadoop/mapreduce/lib-examples(在我的例子中,jar 的名称为 hadoop-mapreduce-examples-2.3.0.jar)
    6. 解雇映射工作<HADOOP_HOME>/bin/hadoop jar ./hadoop-mapreduce-examples-2.3.0.jar wordcount /wordcount/input/file01 /wordcount/output/file01-output

    作业应该成功完成,您应该会看到来自 file01 的单词被计数并存储在 /wordcount/output/file01-output 目录中

    <HADOOP_HOME>/bin/hdfs -cat /wordcount/output/file01-output/part-r-00000
    

    【讨论】:

    • hadoop/bin/hdfs 是执行hadoop文件系统不同操作的可执行文件,它不是目录。如果您在 bin 目录中没有可执行文件(很可能是 shell 脚本),则可执行文件的名称可能有所不同,但它必须存在。
    • 我可以在您的屏幕截图中看到 hdfs 脚本在您的目录中,所以看起来没问题。
    • 使用 hadoop/bin/hdfs dfs -put 将文件放到 hadopp。对不起,我犯了一个错误,这里是例子。
    • 好的,谢谢。如何访问 /wordcount/output/file01-output 目录?我在我的文件系统上找不到它?!
    • 您不需要存在 /wordcount/output/file01-output。它将由 mapreduce 作业创建。只要确保你在 hdfs 中有 /wordcount/output 目录
    【解决方案2】:

    首先找到hadoop使用的示例jar

    find /home -name hadoop-examples-1.2.1.jar

    如果存在,则查看“hadoop-core”jar 是否与其平行放置。如果两者都存在,请按照网站的简单字数统计步骤进行操作

    http://www.michael-noll.com/tutorials/running-hadoop-on-ubuntu-linux-single-node-cluster/

    如果示例和核心 jar 不存在,则下载并执行相同的步骤

    【讨论】:

      【解决方案3】:

      我会下载示例 jar 文件或尝试找到它并运行准蒙特卡罗模拟。这可能是最容易运行并且最直接地查看它是否工作的方法。

      运行一个

      find . -name *examples* 
      

      在您的 hadoop 安装目录中。一旦你发现了这一点,就在你的机器上运行它,看看它们是否获得了预期的线程数、负载等。

      【讨论】:

        猜你喜欢
        • 2014-02-01
        • 2012-02-02
        • 1970-01-01
        • 1970-01-01
        • 2013-08-27
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 2011-02-21
        相关资源
        最近更新 更多