【问题标题】:Find disk usage by topic in a Kafka cluster在 Kafka 集群中按主题查找磁盘使用情况
【发布时间】:2020-09-14 03:08:50
【问题描述】:

是否有 Kafka 监控指标、Java API 或 JMX bean 来获取 Kafka 集群中每个主题的磁盘使用情况?

有没有办法确定集群的总磁盘使用量,包括所有主题/分区/副本?

【问题讨论】:

  • 我不认为有,因为它会在多个副本之间不一致,并且您不能保证领导代理在发生故障转移时会有完整的数据快照

标签: apache-kafka


【解决方案1】:

此信息可通过 Kafka 1.1 版通过AdminClient API 方法describeLogDirs() 获得。通过遍历代理的一系列嵌套映射 -> 路径-> 主题分区 -> 副本,您可以获得每个的大小。

【讨论】:

    【解决方案2】:

    你可以通过下面的JMX获取值

    kafka.log.Log.value:name=size
    

    根据您的要求,还可以使用其他指标来更改查询

    【讨论】:

      猜你喜欢
      • 2012-07-03
      • 2021-07-31
      • 1970-01-01
      • 1970-01-01
      • 2020-12-26
      • 2021-02-25
      • 1970-01-01
      • 2019-11-18
      • 2018-06-30
      相关资源
      最近更新 更多