【发布时间】:2018-08-30 18:55:49
【问题描述】:
我正在寻找类似 @987654321@ 的东西,但寻找的是映射器而不是减速器。
我正在运行并使用一个仅限地图的转换作业
SET mapred.min.split.size=2100000;
SET mapred.max.split.size=2100000;
控制分配的映射器数量。总分区大小约为 800MB,作业确实分配了大约 400 个映射器,这似乎与拆分大小一致。我遇到的问题是约 390 个映射器在
有没有一种方法可以强制映射器获取(大约)相等数量的记录,这样就不会发生这种情况?
【问题讨论】: