【问题标题】:Kafka auto partitionKafka 自动分区
【发布时间】:2019-12-19 05:21:23
【问题描述】:

是否有实现主题自动分区的倡议,以便从公共 api 中删除分区逻辑?我觉得 Kafka 集群应该有一个动态分区来动态调整用户消息速率,并将单个记录存储在一个或 n 个物理文件和机器中,以最大限度地提高吞吐量和延迟。我发现为一个主题创建 n 个分区就相当于拥有 n 个主题

【问题讨论】:

    标签: apache-kafka


    【解决方案1】:

    根据KIP page,没有。这是有道理的。主题分区高度依赖于您试图通过该主题实现的目标。创建一个可以处理所有用例的算法几乎是不可能的。

    【讨论】:

      【解决方案2】:

      在 kafka 中,消息顺序在分区中得到保证。但是对于同一主题中的不同分区,没有顺序保证。如果您根据消息的负载和更改分区自动缩放,则无法满足订购保证。这就是 Kafka 中没有分区自动缩放的原因。

      【讨论】:

        猜你喜欢
        • 1970-01-01
        • 1970-01-01
        • 2020-04-10
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 2017-09-13
        • 2022-01-01
        • 1970-01-01
        相关资源
        最近更新 更多