【问题标题】:What is the gain of using kafka-connect over traditional approach?与传统方法相比,使用 kafka-connect 有什么好处?
【发布时间】:2019-12-02 07:36:53
【问题描述】:

我有一个用例,我需要将关系数据库中的数据更改发送到 kafka-topic。

我能够编写一个简单的 JDBC 程序,该程序执行一组查询以了解特定时间段内的变化,并使用 KafkaTemplate(spring 框架提供的包装器)将数据写入 kafka-topic。

如果我用 kafka-connect 做同样的事情,那就是写一个源连接器。我会得到什么好处或间接费用(如果有的话)?

【问题讨论】:

    标签: apache-kafka spring-kafka apache-kafka-connect


    【解决方案1】:

    第一件事是你有“......编写一个简单的 JDBC 程序......”并负责数据库和 Kafka 主题的编写逻辑。 Kafka Connect 为您执行此操作,您的业务应用程序只需写入数据库即可。使用 Kafka Connect,您拥有的不仅仅是故障转移处理、并行性、可扩展性……这一切对您来说都是开箱即用的,而您应该照顾它们,例如当您在数据库上写入但出现故障而您没有能够写入Kafka主题等等。

    【讨论】:

      【解决方案2】:

      今天,您想使用一组从一个数据库到 Kafka 主题的查询从数据库中提取数据,并编写一些定制代码来实现这一点。

      明天您想要使用第二个数据库,或者您想要更改 Kafka 中数据的序列化格式,或者您想要扩展您的摄取,或者您想要拥有高可用性。或者您想添加将数据从 Kafka 流式传输到另一个目标的能力,以从其他地方摄取数据。并且,使用仅以 JSON 表示的标准化配置模式集中管理这一切。哦,您希望其他人可以轻松维护它,而无需阅读代码,但可以使用 Apache Kafka 的通用 API(这就是 Kafka Connect)。

      如果你自己能做到这一切——你就彻底改造了 Kafka Connect :)

      我在我的 Kafka 峰会会议上广泛讨论了这个问题:“使用 Kafka Connect 从零到英雄”,您可以找到 online here

      【讨论】:

        猜你喜欢
        • 2017-09-10
        • 2020-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 2012-07-07
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        相关资源
        最近更新 更多