【问题标题】:Hadoop YARN - Job consuming more resources than user limit factorHadoop YARN - 作业消耗的资源超过用户限制因素
【发布时间】:2021-08-29 03:49:26
【问题描述】:

我在 YARN 中有一个默认队列,配置如下:

Capacity:   70%
Max Capacity:   90%
User Limit Factor   0.08
Minimum User Limit  8%
Maximum Applications    Inherited
Maximum AM Resource Inherited
Priority    0
Ordering Policy Fair
Maximum Application Lifetime    -1
Default Application Lifetime    -1
Enable Size Based Weight Ordering   Disabled
Maximum Allocation Vcores   Inherited
Maximum Allocation Mb   Inherited

但即使用户限制因子为 0.08,最小用户限制为 8%,也有作业使用队列资源的 8% 以上运行,如下所示:

这怎么可能?用户限制因子/最低用户限制不起作用吗?还有其他我应该注意的配置吗?

【问题讨论】:

    标签: hadoop hadoop-yarn


    【解决方案1】:

    最低 8% 的用户限制意味着如果 12 个用户同时到达 - 他们将分别获得 8% 的资源,以便给他们平等的份额。 但是,在您的情况下,作业开始的时间表明首先提交的任务将有更多可用的集群资源,因为它们不会到来 同时在。 herehere 可以很好地理解这些参数

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 2017-02-21
      • 1970-01-01
      • 1970-01-01
      • 2015-08-29
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多