【发布时间】:2019-12-19 05:21:23
【问题描述】:
是否有实现主题自动分区的倡议,以便从公共 api 中删除分区逻辑?我觉得 Kafka 集群应该有一个动态分区来动态调整用户消息速率,并将单个记录存储在一个或 n 个物理文件和机器中,以最大限度地提高吞吐量和延迟。我发现为一个主题创建 n 个分区就相当于拥有 n 个主题
【问题讨论】:
标签: apache-kafka
是否有实现主题自动分区的倡议,以便从公共 api 中删除分区逻辑?我觉得 Kafka 集群应该有一个动态分区来动态调整用户消息速率,并将单个记录存储在一个或 n 个物理文件和机器中,以最大限度地提高吞吐量和延迟。我发现为一个主题创建 n 个分区就相当于拥有 n 个主题
【问题讨论】:
标签: apache-kafka
根据KIP page,没有。这是有道理的。主题分区高度依赖于您试图通过该主题实现的目标。创建一个可以处理所有用例的算法几乎是不可能的。
【讨论】:
在 kafka 中,消息顺序在分区中得到保证。但是对于同一主题中的不同分区,没有顺序保证。如果您根据消息的负载和更改分区自动缩放,则无法满足订购保证。这就是 Kafka 中没有分区自动缩放的原因。
【讨论】: