【问题标题】:Upgrading Kafka client from 0.8.2.0 to 0.11.0.0将 Kafka 客户端从 0.8.2.0 升级到 0.11.0.0
【发布时间】:2018-02-19 03:17:12
【问题描述】:

目前,在我的公司,我们正在从 Kafka 0.8 迁移到 0.11,代理迁移步骤并在 kafka 文档here中明确说明

我陷入困境的是,升级 kafka 客户端(生产者、消费者、火花流),我没有找到任何文档/文章清楚地列出升级客户端所需的更改或步骤,我发现的只是java文档Producer Client

到目前为止,我所做的是将我的 gradle 中的 kafka 客户端版本更改为 kafka-clients-0.11.0.0,从编译的角度来看,一切都很好,根本没有代码更改。

我寻求帮助的是,是否有任何我应该处理的预期问题,除了 kafka-client 版本之外的任何客户端更改指针?

【问题讨论】:

    标签: apache-kafka kafka-producer-api


    【解决方案1】:

    我做了很多实验来完成这项工作。

    对于消费者和生产者,我只是使用了 kafka 消费者和生产者 0.11.0。

    技巧部分是替换 spark-streaming,spark-streaming 最新版本仅支持 kafka 0.10.X,其中不包含任何与新代理相关的更新。

    我在这里推荐的是,如果您要从头开始编写应用程序并且您的主要目标是实时流式传输,请使用 kafka-streaming API,如果您已经拥有 spark 流式传输应用程序(这是我的情况),那就太棒了! ),您应该判断哪个比另一个更重要,以防卡住 kafka-broker 10.X 版和 [experimental][1] btw 的 spark-streaming。

    在 kafka 中进行流式传输的好处不会引发以下问题:

    1. Kafka 流是一个普通的 jar,可以注入到任何 Java 应用程序中,因此您不必太在意部署和环境
    2. 与扩展 HDP 集群不同,使用任何云服务提供商提供的任何规模集使用 kafka-streaming 时,自动扩展非常容易。
    3. 使用 prometheus 之类的东西进行监控会容易得多。

    【讨论】:

      猜你喜欢
      • 2023-02-04
      • 1970-01-01
      • 1970-01-01
      • 2015-01-19
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2021-10-14
      • 2010-11-15
      相关资源
      最近更新 更多