【发布时间】:2018-08-14 21:34:16
【问题描述】:
我不确定我是否计算正确,但例如我使用 Hadoop 默认设置,我想计算我可以在集群中存储多少数据。例如,我有 12 个节点,每个节点有 8 TB 的总磁盘空间分配给 HDFS 存储。
我只计算 12/8 = 1.5 TB 吗?
【问题讨论】:
标签: hadoop
我不确定我是否计算正确,但例如我使用 Hadoop 默认设置,我想计算我可以在集群中存储多少数据。例如,我有 12 个节点,每个节点有 8 TB 的总磁盘空间分配给 HDFS 存储。
我只计算 12/8 = 1.5 TB 吗?
【问题讨论】:
标签: hadoop
您不包括复制因素和处理任何数据的开销。另外,如果所有磁盘都快满了,Hadoop 将无法运行
因此,8 TB 将首先除以 3(未启用新的纠删码),然后除以节点数
但是,从技术上讲,您不能达到 100% 的 HDFS 使用率,因为一旦您开始超过 85% 的使用率,服务就会开始失败,所以实际上,您的起始数字应该是 7TB
【讨论】: