【问题标题】:Confluent Schema Registry Offset ManagementConfluent Schema Registry 偏移管理
【发布时间】:2018-03-27 04:58:39
【问题描述】:

我们使用 Confluent Schema Registry 作为 Avro Schema Repo。我观察到的是 Zookeeper 中没有消费者偏移管理。是因为 Schema Registry 的设计方式 - 不是在 Zookeeper 中存储偏移量,而是在 Kafka 中存储偏移量,还是这是一种标准设计模式,以防 Kafka 中的压缩日志/主题?

【问题讨论】:

    标签: apache-kafka registry schema apache-zookeeper confluent-platform


    【解决方案1】:

    Confluent Schema Registry 的使用不会以任何方式影响消费者偏移的处理方式。

    在 Kafka 0.9 及更高版本(即“新消费者”API)中,消费者偏移存储在名为 __consumer_offsets 的特殊 Kafka 主题中。

    对于压缩主题和常规主题,Kafka 中消费者偏移量的存储是相同的。

    【讨论】:

      【解决方案2】:

      新的高级消费者不在 Zookeeper 中存储偏移量。您可以查看此链接https://cwiki.apache.org/confluence/display/KAFKA/Kafka+0.9+Consumer+Rewrite+Design

      【讨论】:

        猜你喜欢
        • 1970-01-01
        • 2021-10-04
        • 2019-05-01
        • 2023-01-11
        • 1970-01-01
        • 2019-07-21
        • 2019-07-21
        • 2017-10-06
        • 1970-01-01
        相关资源
        最近更新 更多