zoo + 快照文件创建非常频繁答案

【问题标题】：zoo + snapshot files are created very frequentlyzoo + 快照文件创建非常频繁
【发布时间】：2022-08-03 20:06:47
【问题描述】：

在文件夹下 - /var/hadoop/zookeeper/version-2/ 我们可以看到 Zookeeper 事务日志和快照文件被非常频繁地创建（每分钟多个文件），并且在很短的时间内填满了文件系统。

根本原因

一个或多个应用程序过于频繁地创建或修改 znode，从而在短时间内导致过多的事务。这会导致创建太多事务日志文件和快照文件，因为默认情况下它们会在 100,000 个条目后翻转（由 Zookeeper 属性 \'snapCount\' 定义）

-rw-r--r-- 1 zookeeper hadoop  67108880 Jul 28 17:24 log.570021fa92
-rw-r--r-- 1 zookeeper hadoop 490656299 Jul 28 17:24 snapshot.5700232ffa
-rw-r--r-- 1 zookeeper hadoop  67108880 Jul 28 17:29 log.5700232ffc
-rw-r--r-- 1 zookeeper hadoop 490656389 Jul 28 17:29 snapshot.5700249d7f
-rw-r--r-- 1 zookeeper hadoop  67108880 Jul 28 17:33 log.5700249d78
-rw-r--r-- 1 zookeeper hadoop 490656275 Jul 28 17:33 snapshot.570025fdaf
-rw-r--r-- 1 zookeeper hadoop  67108880 Jul 28 17:36 log.570025fdae
-rw-r--r-- 1 zookeeper hadoop 490656275 Jul 28 17:36 snapshot.570026c447
-rw-r--r-- 1 zookeeper hadoop  67108880 Jul 28 17:40 log.570026c449
-rw-r--r-- 1 zookeeper hadoop 490658969 Jul 28 17:40 snapshot.570027caed
-rw-r--r-- 1 zookeeper hadoop  67108880 Jul 28 17:43 log.570027caef
-rw-r--r-- 1 zookeeper hadoop 490658981 Jul 28 17:43 snapshot.570028a0d0
-rw-r--r-- 1 zookeeper hadoop  67108880 Jul 28 17:48 log.570028a0d2
-rw-r--r-- 1 zookeeper hadoop 165081088 Jul 28 17:48 snapshot.57002a0268
-rw-r--r-- 1 zookeeper hadoop  67108880 Jul 28 17:48 log.57002a026b
.
.
.
.

当我们打开其中一个日志时 - log.57002a026b 我们看到了加密日志

任何建议如何解密上面的日志？

或者如何知道哪个应用程序过于频繁地创建或修改 znode？

标签： linux apache-zookeeper zoo

【解决方案1】：

问题

Zookeeper 事务日志和快照文件的创建非常频繁（每分钟有多个文件），并且会在很短的时间内填满文件系统。

根本原因

一个或多个应用程序过于频繁地创建或修改 znode，从而在短时间内导致过多的事务。这会导致创建太多事务日志文件和快照文件，因为默认情况下它们会在 100,000 个条目后翻转（由 zookeeper 属性“snapCount”定义）

解析度

此类情况的解决方案涉及查看 zookeeper 事务日志，以在其中一个 zookeeper 服务器上使用以下命令查找最频繁更新/创建的 znode：

# cd /usr/hdp/current/zookeeper-server
# java -cp zookeeper.jar:lib/* org.apache.zookeeper.server.LogFormatter /hadoop/zookeeper/version-2/logxxx
(where 'dataDir' is set to '/hadoop/zookeeper' within zookeeper configuration)

一旦使用上述命令识别出频繁更新的 znode，就应该继续修复在 zookeeper 上创建如此大量更新的相关应用程序。

可能导致此问题的此类应用程序的一个示例是 Hbase，当有大量区域卡在转换中并且它们反复无法上线时。

【讨论】：