【问题标题】:Flink-Kafka consumers for multiple topics多个主题的 Flink-Kafka 消费者
【发布时间】:2018-12-31 15:34:11
【问题描述】:

我有一个 Flink Kafka 消费者,它读取多个 kafka-topics(在我的例子中是 3 个)。 kafka 上每个主题有 5 个分区。 Flink 默认创建多少个消费者。

是吗:

  1. 每个主题 5 个消费者。 IE。在所有 15 位消费者中
  2. 总共 5 个消费者。

kafka 消息的消费很慢,所以我无法计算每个主题附加的消费者数量。

【问题讨论】:

    标签: java apache-kafka streaming apache-flink


    【解决方案1】:

    消费者的数量等于源函数的并行度。源运算符的每个并行实例只有一个消费者。如果您未配置并行度,我认为它可能会默认为并行度,这肯定可以解释缓慢的原因。

    如果您运行的是独立集群,webGUI 将在运行时向您显示源函数的并行度。

    【讨论】:

      猜你喜欢
      • 2017-01-26
      • 1970-01-01
      • 1970-01-01
      • 2018-08-31
      • 1970-01-01
      • 1970-01-01
      • 2018-10-15
      • 1970-01-01
      • 2017-08-18
      相关资源
      最近更新 更多