【问题标题】:Hive - Randomly Distribute Records Across MappersHive - 跨映射器随机分布记录
【发布时间】:2018-08-30 18:55:49
【问题描述】:

我正在寻找类似 @​​987654321@ 的东西,但寻找的是映射器而不是减速器。

我正在运行并使用一个仅限地图的转换作业

SET mapred.min.split.size=2100000;
SET mapred.max.split.size=2100000;

控制分配的映射器数量。总分区大小约为 800MB,作业确实分配了大约 400 个映射器,这似乎与拆分大小一致。我遇到的问题是约 390 个映射器在

有没有一种方法可以强制映射器获取(大约)相等数量的记录,这样就不会发生这种情况?

【问题讨论】:

    标签: hive mappers


    【解决方案1】:

    已修复。显然,被查询的表在 HDFS 中只有 10 个文件,因此只能使用 10 个映射器。

    【讨论】:

      猜你喜欢
      • 2016-09-29
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2012-03-06
      • 1970-01-01
      • 2011-01-08
      • 1970-01-01
      相关资源
      最近更新 更多