【发布时间】:2021-02-01 05:19:17
【问题描述】:
我正在尝试使用带有版本(2.3.7 版本)的 spring boot 在 spring kafka 上做一个简单的 poc,以实现消费者批处理的工作方式,以及如果消费者需要更多处理时间,重新平衡如何工作,因为我对此完全陌生消息系统。
现在我看到 kafka 与单个使用者重新平衡的问题(不允许并发)。
这些是我设置的属性 max.poll.interval.ms = 50000 和 factory.getContanerProperties.setIdealTimeBetweenPolls(120000) 并使消费者批处理过程花费更多 比这个 max.poll.interval.ms。 (70 秒) 我在这里看到的问题是消费者每 2 分钟间隔触发一次,因此,每 2 分钟重新平衡一次。根据我的理解实际上这不应该发生。仅应在第一次重新平衡时发生。
这里有什么我遗漏的吗?
【问题讨论】:
-
嘿 Mr_k 我会帮忙的。你能告诉我你使用了多少个发布者和订阅者吗
-
我们有一个主题发布者,主题有 8 个分区。并且一个消费者订阅了该主题。而且我正在尝试使用确认进行手动提交。
-
那么您面临的问题或您想要达到的目标
-
如果你有的话,你也可以分享你的 KafkaConsumerConfiguration
-
对于再平衡你需要不止一个并发消费,因为你正在使用一个所以没有再平衡的概念