【问题标题】:Kafka consumer: how to check if all the messages in the topic partition are completely consumed?Kafka消费者:如何检查主题分区中的所有消息是否被完全消费?
【发布时间】:2021-12-30 11:49:05
【问题描述】:

是否有任何 API 或属性可用于或比较以确定一个主题分区中的所有消息是否都已被消费?我们正在进行一项测试,该测试将使用同一消费者组中的另一个消费者来检查主题分区是否仍有任何消息。我们的一项应用服务也使用 Kafka 来处理内部事件。那么有没有办法同步消息消费的进度呢?

【问题讨论】:

  • 在 Python 中?我不这么认为,因为消费者循环是一个无限迭代器。在 Java API 中,您只需检查 poll 方法是否返回零记录.... 其他选项是安装 Burrow 之类的东西,然后使用其 REST API 检查消费者组滞后

标签: apache-kafka kafka-consumer-api confluent-kafka-python


【解决方案1】:

是的,您可以使用管理 API。

您可以从管理 API 获取每个分区的主题偏移量,以及给定的消费者组偏移量。如果所有消息都已读取,则从第一个中减去后一个的结果对于所有分区都会计算为 0。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2017-12-21
    • 2017-10-17
    • 2016-06-12
    • 2020-08-11
    • 1970-01-01
    • 1970-01-01
    • 2019-06-11
    • 2017-09-23
    相关资源
    最近更新 更多