【发布时间】:2013-10-18 03:46:24
【问题描述】:
有没有办法跳过单个失败的地图作业而不是杀死整个作业?我有数以千计的地图作业都运行良好,总是有这个烦人的最后地图作业需要永远并最终杀死大作业。
有没有办法设置诸如“失败时忽略”之类的常规设置或可以忽略的地图百分比?
我并不是在寻找 100% 数据的完美结果,95% 的良好估计就足够了。
【问题讨论】:
标签: hadoop mapreduce apache-pig
有没有办法跳过单个失败的地图作业而不是杀死整个作业?我有数以千计的地图作业都运行良好,总是有这个烦人的最后地图作业需要永远并最终杀死大作业。
有没有办法设置诸如“失败时忽略”之类的常规设置或可以忽略的地图百分比?
我并不是在寻找 100% 数据的完美结果,95% 的良好估计就足够了。
【问题讨论】:
标签: hadoop mapreduce apache-pig
您可以使用 mapred.max.map.failures.percent(新版本 2.1.0 中的 mapreduce.map.failures.maxpercent)和 mapred.max.reduce.failures.percent 属性来控制您的作业失败
http://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-common/DeprecatedProperties.html
【讨论】: