【问题标题】:Can kafka producers supply data at quota rate in presence of replicas?kafka 生产者可以在存在副本的情况下以配额速率提供数据吗?
【发布时间】:2017-09-29 10:25:57
【问题描述】:

我有一个属于客户端的 kafka 生产者,其客户端 ID -“p1”,配额为 50 MBps。

现在我使用“bin/kafka-producer-perf-test.sh”测试了我的生产者的性能,当写入没有副本的分区时,我能够获得接近 50 MBps 的吞吐量。

我在具有三个副本的分区上尝试了相同的实验。但这次吞吐量降低到 30 MBps。

我的问题是,即使存在副本,kafka 是否不应该允许生产者仍然获得 50 MBps 的吞吐量?系统中没有其他任何东西在运行,所以我不确定为什么会这样?

【问题讨论】:

    标签: apache-kafka kafka-producer-api kafka-python


    【解决方案1】:

    您是否更改了生产者的acks 配置?根据您的描述,acks 似乎设置为all,因此生产者等待发送的数据将在三个影响吞吐量的代理之间复制。如果您没有更改acks,请尝试将其设置为0,这样生产者根本不会等待服务器的任何确认,只是看看它是否会影响吞吐量。

    【讨论】:

    • 我确实想要所有人的确认(同步复制)。我的基本疑问是,既然网络中没有其他东西,kafka 不应该仍然允许生产者获得 50 MBps 的吞吐量。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2011-02-22
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2017-02-16
    • 1970-01-01
    相关资源
    最近更新 更多