【发布时间】:2021-10-12 09:17:25
【问题描述】:
出于测试目的,我在一个 Kafka 主题上发布了 5k 条消息,并且我使用 pull 方法在我的 spring 批处理应用程序中的每次迭代中读取 100 条消息,它在完成之前运行了大约 2 小时。
有时会遇到以下错误并且执行会停止。
org.apache.kafka.common.errors.TimeoutException: 60000ms 的超时时间在成功提交偏移之前过期
可能是什么原因和解决方法?
【问题讨论】:
-
您真的在执行停止之前收到您的数据吗?您使用哪个 IsolationLevel?
-
似乎在调用 consumer.commitSync
https://kafka.apache.org/22/javadoc/org/apache/kafka/clients/consumer/KafkaConsumer.html#commitSync--时引发了超时。发生这种情况是因为 kafka 提交不成功。请提供更多信息在哪种情况下失败。