【问题标题】:Manually create a kafka consumer group without any consumption手动创建一个kafka消费者组,没有任何消费
【发布时间】:2022-01-19 21:15:12
【问题描述】:

由于 flink 问题:https://issues.apache.org/jira/browse/FLINK-24697,我正在尝试手动创建一个消费者组,因此 flink 作业可以成功运行,但是使用以下代码,我无法创建一个,我是否遗漏了什么。

val properties = new Properties()
properties.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, broker)
properties.put(ConsumerConfig.GROUP_ID_CONFIG, groupId)
properties.put(ConsumerConfig.AUTO_OFFSET_RESET_CONFIG, resetMode)
properties.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, classOf[StringDeserializer])
properties.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, classOf[StringDeserializer])
val consumer = new KafkaConsumer(properties)
consumer.subscribe(util.Arrays.asList(topic))
consumer.close()

日志:

2022-01-19 12:29:55,006 INFO  org.apache.flink.avro.registry.confluent.shaded.org.apache.kafka.common.utils.AppInfoParser [] - Kafka version: 2.4.0
2022-01-19 12:29:55,006 INFO  org.apache.flink.avro.registry.confluent.shaded.org.apache.kafka.common.utils.AppInfoParser [] - Kafka commitId: 77a89fcf8d7fa018
2022-01-19 12:29:55,006 INFO  org.apache.flink.avro.registry.confluent.shaded.org.apache.kafka.common.utils.AppInfoParser [] - Kafka startTimeMs: 1642595395006
2022-01-19 12:29:55,006 INFO  org.apache.flink.avro.registry.confluent.shaded.org.apache.kafka.clients.consumer.KafkaConsumer [] - [Consumer clientId=consumer-testCG-7, groupId=testCG] Subscribed to topic(s): testTopic.

有什么方法可以在不消耗任何数据的情况下手动创建CG

【问题讨论】:

    标签: apache-kafka apache-flink


    【解决方案1】:

    您需要提交偏移量才能创建组

    【讨论】:

    • 在关闭前试过consumer.commitSync(),仍然没有创建CG
    • 您需要在订阅和提交后调用poll(Duration.ofMillis(0)),以便实际分配分区。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2021-06-29
    • 1970-01-01
    • 2020-09-19
    相关资源
    最近更新 更多