【发布时间】:2020-07-30 01:25:49
【问题描述】:
我有 3 个代理 Kafka 集群,Kafka 日志位于 /tmp 目录中。我正在运行 Debezium 源连接器到 MongoDB,它轮询来自 4 个集合的数据。
但是在启动连接器后 5 分钟内,Kafka 代理将关闭并出现以下错误:
[2020-04-16 18:25:08,642] ERROR Shutdown broker because all log dirs in /tmp/kafka-logs-1 have failed (kafka.log.LogManager)
我尝试了不同的建议,即。删除 Kafka 日志并清理 Zookeeper 日志。但是我又遇到了同样的问题。
我还注意到,发生这种情况时,kafka 日志占据了 /tmp 目录的 100%。所以我还根据大小更改了日志保留策略。
log.retention.hours=168
log.retention.bytes=1073741824
log.segment.bytes=1073741824
log.retention.check.interval.ms=10000
这也是徒劳的。 我想在这方面得到一些帮助。提前致谢!
【问题讨论】:
-
你为什么使用 /tmp 作为 Kafka 的日志目录?
标签: mongodb apache-kafka apache-kafka-connect confluent-platform debezium