【问题标题】:Consume multiple topics in a single consumer on kafka在 kafka 上的单个消费者中消费多个主题
【发布时间】:2019-06-26 21:14:13
【问题描述】:

kafka 有什么办法可以在单个消费者上使用多个主题?

这是我的消费者代码,它适用于单个主题

let consumer = new Consumer(
        client,
        [{ topic: '1234', offset: 0, partition: 0 }],
        {
            autoCommit: true,
            fetchMaxWaitMs: 1000,
            fetchMaxBytes: 1024 * 1024,
            encoding: 'utf8',
            fromOffset: false
        }
    );
    consumer.on('message', async function (message: any) {
        console.log(
            'kafka-> ',
            message.value
        );
    })

【问题讨论】:

标签: javascript node.js apache-kafka kafka-consumer-api


【解决方案1】:

明明是一个列表,你应该可以在消费者中添加多个主题。

https://www.npmjs.com/package/kafka-node#consumer 说你可以做如下。 (最好不要分配分区,让zookeeper来处理)

var kafka = require('kafka-node'),
Consumer = kafka.Consumer,
client = new kafka.KafkaClient(),
consumer = new Consumer(
    client,
    [
        { topic: 't', partition: 0 }, { topic: 't1', partition: 1 }
    ],
    {
        autoCommit: false
    }
);

【讨论】:

猜你喜欢
  • 2017-01-26
  • 1970-01-01
  • 2019-01-10
  • 1970-01-01
  • 2018-12-31
  • 2020-06-03
  • 1970-01-01
  • 2018-08-31
  • 2019-09-26
相关资源
最近更新 更多