【问题标题】:how to start and check job history on hadoop 2.5.2如何在 hadoop 2.5.2 上启动和检查作业历史记录
【发布时间】:2017-04-21 00:42:21
【问题描述】:
  1. 在每个应用程序的 mapreduce webconsole 中都有一个跟踪 ui 链接,它指向 xx:19888/jobhistory/,但是如何在 19888 上启动服务(我已经启动了 4 个服务:yarn-resource-manager、yarn-node -manager,hdfs-name-node,hdfs-data-node,我错过了什么?)
  2. 是 2.5.2 中移除的 jobtracker
  3. 我想检查为我的工作生成的 job.xml,在哪里可以找到它。我已指定“mapreduce.jobtracker.jobhistory.location”,但没有任何内容

谢谢。

【问题讨论】:

    标签: hadoop


    【解决方案1】:
    1. 要访问 JobHistory 服务器的 Web 界面,您需要启动 hadoop-mapreduce-historyserver 服务,该服务默认绑定到 19888
    2. 如果您在集群中运行 YARN,那么您不再需要 jobtracker,已完成的 jobtracker 将被卸载到 ResourceManager、NodeManager 和 ApplicationMaster。但是,您仍然可以只安装 MRv1,在这种情况下您将安装 JobTracker 和 TaskTracker(不推荐)。
    3. 您可以通过导航到 http://RESOURCEMANAGER_HOST:8088/cluster 从 ResourceManager 的 UI 检查 job.xml -> 选择您的应用程序的 Tracking UI -> 选择您的 Job ID -> 开启您可以在左侧标签中看到配置。或者,如果您已经知道自己的工作 ID,请访问此链接:http://JOBHISTORY_SERVER:19888/jobhistory/conf/YOUR_JOB_ID

    【讨论】:

    • 我已经启动了 4 个服务:yarn-resource-manager、yarn-node-manager、hdfs-name-node、hdfs-data-node。但它告诉我 19888 端口没有监听服务。我还需要启动什么服务,是你提到的ApplicationMaster吗?谢谢阿什里斯。
    • 你必须配置并启动hadoop-mapreduce-historyserver服务。使用这个 apache guide 这样做。
    【解决方案2】:

    $HADOOP_HOME/sbin/mr-jobhistory-daemon.sh --config $HADOOP_HOME/etc/hadoop 启动历史服务器

    然后运行jps看看是否在运行。

    【讨论】:

      【解决方案3】:

      请尝试“jps”命令来验证所有服务是否正在运行。

      try //jhs_host:port/ 默认HTTP端口是19888。”

      确保您的 hadoop 服务正在运行。

      【讨论】:

      • 19888上的服务没有运行,哪个命令可以启动服务监听,我用的是2.5.2,jps结果如下:` 13780 Jps 35256 ResourceManager 14100 NodeManager 55528 NameNode 54500 DataNode ` 谢谢
      • 启动historyserver $>start mapred historyserver
      猜你喜欢
      • 1970-01-01
      • 2012-11-19
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多