【问题标题】:Shuffle error in mapreduce: Error in shuffle in local fetchermapreduce 中的随机播放错误:本地提取器中的随机播放错误
【发布时间】:2015-12-07 10:28:01
【问题描述】:

我应该在哪里寻找来纠正随机播放错误。我检查了 yarn-site.xml。我正在运行一个集群。我试着环顾四周,但找不到任何有用的东西。

yarn-site.xml

<configuration>

<!-- Site specific YARN configuration properties -->

<property>
 <name>yarn.nodemanager.aux-services </name>
 <value>mapreduce.shuffle </value>
</property>

<property>
 <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class </name>
 <value>org.apache.hadoop.mapred.ShuffleHandler</value>
</property>

<property>
<name>yarn.resourcemanager.resource-tracker.address</name>
<value>slave5:8031</value>
</property>
<property>
<name>yarn.resourcemanager.scheduler.address</name>
<value>slave5:8030</value>
</property>
<property>
<name>yarn.resourcemanager.address</name>
<value>slave5:8032</value>
</property>



</configuration>

【问题讨论】:

    标签: hadoop mapreduce hdf


    【解决方案1】:

    从 core-site.xml 中删除有关临时文件的配置。这个答案对我有帮助。

    https://stackoverflow.com/a/11035183/5380111

    从 core-site.xml 中删除类似的内容:-

    <property>
      <name>hadoop.tmp.dir</name>
      <value>/app/hadoop/tmp</value>
     </property>
    

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 2023-01-23
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2020-09-03
      • 2014-04-02
      • 1970-01-01
      相关资源
      最近更新 更多