【问题标题】:Kafka Consumer Re-reading MessagesKafka 消费者重读消息
【发布时间】:2017-11-09 00:19:23
【问题描述】:

我看到了一个问题,即我的主题中的所有消息都会被我的消费者重新阅读。我只有 1 个消费者,我在开发/测试时打开/关闭它。我注意到有时在几天不运行消费者之后,当我突然再次打开它时,它会重新读取我的所有消息。

clientid 和 groupid 始终保持不变。我明确调用 commitSync,因为我的 enable.auto.commit=false。我确实设置了 auto.offset.reset=earliest,但据我了解,只有在服务器上删除了偏移量时才应该启动。我正在使用 IBM Bluemix 的 MessageHub 服务,所以可能会自动删除偏移量?

有没有人有任何线索/想法?

谢谢。

【问题讨论】:

    标签: apache-kafka ibm-cloud kafka-consumer-api message-hub


    【解决方案1】:

    是的,如果您在 24 小时内未提交,则会自动删除偏移量。 这是 Kafka 的默认设置,我们没有更改它。

    【讨论】:

    • 哦,我明白了,我也找到了设置,offsets.retention.minutes。这是否可以在 bluemix 中为代理配置?非常感谢您的帮助!
    • 目前无法配置。尽管 Kafka 协议允许在提交偏移量时指定保留时间,但此功能并未在客户端中公开。
    猜你喜欢
    • 1970-01-01
    • 2017-09-23
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多