断电重启hadoop HA集群节点后name节点失效答案

【问题标题】：Name node fails after restarting the hadoop HA cluster nodes after power off断电重启hadoop HA集群节点后name节点失效
【发布时间】：2019-05-31 13:14:13
【问题描述】：

我已经设置了 HA hadoop 集群，其中包含 2 个名称节点和具有自动故障转移控制的日志节点。在namenode格式之后启动时它会开始罚款。但是在重新启动集群时它会失败。我也尝试按顺序升级集群。

启动所有日志节点
启动活动名称节点
启动备用节点（使用引导程序）并启动名称节点
在所有节点上启动 zkserver
启动所有数据节点。
在活动节点上格式化zkfc，然后启动
在备用节点上格式化zkfc，然后启动。

它工作正常，直到第 5 阶段并且所有节点都已启动（名称节点都已启动和待机）。当我启动 zkfc 时，名称节点失败并出现错误日志节点未格式化。

（在此步骤之前，我通过格式化活动名称节点成功启动了设置，在第二次启动时，我在步骤 2 中删除了名称节点格式）：

关机重启后如何开始设置？

<configuration>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:///usr/local/hadoop/data/nameNode</value>
<final>true</final>
</property>

<property>
<name>dfs.datanode.data.dir</name>
<value>file:///usr/local/hadoop/data/dataNode</value>
<final>true</final>
</property>

<property>
<name>dfs.replication</name>
<value>2</value>
</property>

<property>
<name>dfs.permissions</name>
<value>false</value>
</property>

<property>
<name>dfs.nameservices</name>
<value>ha_cluster</value>
</property>

<property>
 <name>dfs.ha.namenodes.ha_cluster</name>
 <value>sajan,sajan2</value>
 </property>

 <property>
 <name>dfs.namenode.rpc-address.ha_cluster.sajan</name>
 <value>192.168.5.249:9000</value>
 </property>

 <property>
 <name>dfs.namenode.rpc-address.ha_cluster.sajan2</name>
 <value>192.168.5.248:9000</value>
 </property>

 <property>
 <name>dfs.namenode.http-address.ha_cluster.sajan</name>
 <value>192.168.5.249:50070</value>
 </property>

 <property>
 <name>dfs.namenode.http-address.ha_cluster.sajan2</name>
 <value>192.168.5.248:50070</value>
 </property>

 <property>
 <name>dfs.namenode.shared.edits.dir</name>
 <value>qjournal://192.168.5.249:8485;192.168.5.248:8485;192.168.5.250:8485/ha_cluster</value>
 </property>
 <property>
 <name>dfs.client.failover.proxy.provider.ha_cluster</name>
 <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
 </property>
 <property>
 <name>dfs.ha.automatic-failover.enabled</name>
 <value>true</value>
 </property>
 <property>
 <name>ha.zookeeper.quorum</name>
 <value>192.168.5.249:2181,192.168.5.248:2181,192.168.5.250:2181,192.168.5.251:2181,192.168.5.252:2181,192.168.5.253:2181</value>
 </property>
 <property>
 <name>dfs.ha.fencing.methods</name>
 <value>sshfence</value>
 </property>
 <property>
 <name>dfs.ha.fencing.ssh.private-key-files</name>
 <value>/home/hadoop/.ssh/id_rsa</value>
 </property>

</configuration>

【问题讨论】：

您能否提供出现在 NN 日志中的错误？此外，如果您仔细检查 HA configuration in hdfs-site.xml
在上面添加了 hdfs-site.xml。设置最初是成功的。当我在断电后重新启动所有节点时，它会失败，我必须再次格式化 namenode。我需要稳定这一点。每次重新启动系统时，我总是以相反的顺序停止此操作。
如果格式化HDFS解决了HA配置的状态，我认为问题与数据有关。但重要的是识别首先出现在 NameNode 中的错误。请附上您在日志中看到的错误。
谢谢兄弟我明白了。问题在于停止集群。在停止名称节点和日志节点之前，我已经关闭了故障转移服务。

标签： hadoop apache-zookeeper failover

【解决方案1】：

如果您想停止服务，请使用以下命令。我花了 2 个工作日来解决这个问题。

停止所有名称节点。
停止所有日志节点。
停止所有数据节点。
停止故障转移服务。
停止 zkserver

【讨论】：