【问题标题】:Kafka Connect: How to add a custom connector(SMT) to an existing Kafka Connect docker installation?Kafka Connect:如何将自定义连接器 (SMT) 添加到现有的 Kafka Connect docker 安装中?
【发布时间】:2021-07-06 01:36:30
【问题描述】:

我有一个带有 JDBC Source Connector 插件的 Kafka Connect 集群。 我还有自己的自定义 SMT,它是一个 jar 文件,用于使用 JDBC Source Connector 插件处理我的用例,例如 my-custom-1.0.0.jar。例如以下。变压器类型是我自己的java类MySMT

"transforms": "mytransformer", 
"transforms.mytransformer.type": "com.my.MySMT"

我知道我可以将 jar 文件放在 plugin.path 中。但是,是否可以重新加载连接器插件(JDBC 源连接器)来加载我的 SMT jar,而无需重新启动 Kafka Connect 集群?

如果不是,最好的做法是什么?

谢谢。

【问题讨论】:

    标签: apache-kafka apache-kafka-connect confluent-platform


    【解决方案1】:

    插件不是动态加载的,因此您需要重新启动工作器

    另一种方法是让源连接器数据尽可能原始,然后使用流处理器处理成消费者可以使用的格式

    【讨论】:

    • 感谢您的回答。我的自定义源连接器非常通用,但它路由到各种主题并且还使用 TopicRecordName 策略。加了Stream Processor,会不会多了一层事件消耗?
    • 会的。 “主题的路由”也可以在Kafka Streams的branch函数中完成
    • 谢谢@OneCricteteer,我去看看。
    猜你喜欢
    • 2019-10-08
    • 2018-08-27
    • 2020-11-20
    • 2020-11-27
    • 2020-06-23
    • 1970-01-01
    • 2020-05-01
    • 2020-01-07
    • 2021-08-27
    相关资源
    最近更新 更多