【问题标题】:How kafka 0.8 achieve message-level load balance?kafka 0.8如何实现消息级负载均衡?
【发布时间】:2014-09-12 17:56:35
【问题描述】:

我们知道,在 kafka 0.8 中,producer 直接连接到 broker,而不连接到 zookeeper。比它如何在每个请求的基础上实现基于 Zookeeper 的负载平衡? 实际上,当创建一个主题时,它的分区将分布在一个或多个代理中。发送消息时,会根据其关键字将其投递到某个分区。也就是说,一定要发送到固定broker上的固定partition。所谓的负载均衡是如何工作的?

【问题讨论】:

    标签: load-balancing partitioning producer-consumer apache-kafka


    【解决方案1】:

    生产者端的负载平衡实际上取决于您是希望代理根据使用提供的密钥自动分区,还是让代理处理消息自动转到哪个分区。

    如果您不想指定分区键,则您没有必须,因此您的负载平衡仅限于给定主题可用的分区数与分配给键的分区相反。

    【讨论】:

      【解决方案2】:

      kafka 需要一个 Zookeepeer 实例来连接到代理。我们可以通过使用默认分区器或自定义分区器写入主题中的分区来实现负载平衡。

      【讨论】:

        猜你喜欢
        • 1970-01-01
        • 1970-01-01
        • 2017-09-05
        • 2021-12-07
        • 2015-02-12
        • 1970-01-01
        • 2017-12-26
        • 1970-01-01
        • 1970-01-01
        相关资源
        最近更新 更多