【问题标题】:How to calculate Hadoop Storage?如何计算 Hadoop 存储?
【发布时间】:2018-08-14 21:34:16
【问题描述】:

我不确定我是否计算正确,但例如我使用 Hadoop 默认设置,我想计算我可以在集群中存储多少数据。例如,我有 12 个节点,每个节点有 8 TB 的总磁盘空间分配给 HDFS 存储。

我只计算 12/8 = 1.5 TB 吗?

【问题讨论】:

    标签: hadoop


    【解决方案1】:

    您不包括复制因素和处理任何数据的开销。另外,如果所有磁盘都快满了,Hadoop 将无法运行

    因此,8 TB 将首先除以 3(未启用新的纠删码),然后除以节点数

    但是,从技术上讲,您不能达到 100% 的 HDFS 使用率,因为一旦您开始超过 85% 的使用率,服务就会开始失败,所以实际上,您的起始数字应该是 7TB

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2020-02-07
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多