【发布时间】:2014-06-18 00:06:27
【问题描述】:
我现在如何测试我的 hadoop 安装?我找不到 adoop-examples-1.1.2.jar。 有没有其他方法可以测试 Hadoop 和 Mahout 是否正常工作?
提前致谢。
【问题讨论】:
我现在如何测试我的 hadoop 安装?我找不到 adoop-examples-1.1.2.jar。 有没有其他方法可以测试 Hadoop 和 Mahout 是否正常工作?
提前致谢。
【问题讨论】:
您可以运行 mapreduce hello world 作业。请注意,您的路径可能略有不同:
<HADOOP_HOME>/input/file01 中存在的示例测试输入文件
<HADOOP_HOME>/bin/hdfs dfs -mkdir /wordcount<HADOOP_HOME>/bin/hdfs dfs -mkdir /wordcount/input<HADOOP_HOME>/bin/hdfs dfs -mkdir /wordcount/outputfile01文件放入hdfs:
<HADOOP_HOME>/bin/hdfs dfs -put <HADOOP_HOME>/input/file01 /wordcount/inputcd <HADOOP_HOME>/share/hadoop/mapreduce/lib-examples(在我的例子中,jar 的名称为 hadoop-mapreduce-examples-2.3.0.jar)<HADOOP_HOME>/bin/hadoop jar ./hadoop-mapreduce-examples-2.3.0.jar wordcount /wordcount/input/file01 /wordcount/output/file01-output
作业应该成功完成,您应该会看到来自 file01 的单词被计数并存储在 /wordcount/output/file01-output 目录中
<HADOOP_HOME>/bin/hdfs -cat /wordcount/output/file01-output/part-r-00000
【讨论】:
首先找到hadoop使用的示例jar
find /home -name hadoop-examples-1.2.1.jar
如果存在,则查看“hadoop-core”jar 是否与其平行放置。如果两者都存在,请按照网站的简单字数统计步骤进行操作
http://www.michael-noll.com/tutorials/running-hadoop-on-ubuntu-linux-single-node-cluster/
如果示例和核心 jar 不存在,则下载并执行相同的步骤
【讨论】:
我会下载示例 jar 文件或尝试找到它并运行准蒙特卡罗模拟。这可能是最容易运行并且最直接地查看它是否工作的方法。
运行一个
find . -name *examples*
在您的 hadoop 安装目录中。一旦你发现了这一点,就在你的机器上运行它,看看它们是否获得了预期的线程数、负载等。
【讨论】: