【问题标题】:How can I configure my connector to run in specific worker group in multicluster connect environment in distributed kafka connect?如何配置我的连接器以在分布式 kafka 连接的多集群连接环境中的特定工作组中运行?
【发布时间】:2021-10-17 10:02:04
【问题描述】:

根据文档,工作服务设置为在添加连接器之前运行。假设我在三个分布式虚拟机上运行 group.id "cluster-a" 的 worker-a 和 group.id "cluster-b" 的 worker-b。使连接器选择其工作组的配置是什么。

假设我需要将 debezium mysql 连接器的任务配置为在 cluster-a 上运行,而 jdbc 连接器的所有任务在 cluster-b 上运行。我该怎么做?

提前致谢。

【问题讨论】:

    标签: apache-kafka kafka-consumer-api apache-kafka-connect


    【解决方案1】:

    group.id 指定的每个连接器组通过它们的rest.advertised.listener(类似于代理)通过 HTTP 相互通信。每个 Connect 集群还需要自己独特的配置、偏移量和状态主题

    您将 HTTP POST 发送到组的 rest.port 端点之一,任务将分布在该组内

    但是,如果您只有 3 台机器,则确实不需要设置两个唯一的 Connect 集群(JDBC 和 Debezium 任务可以在同一个集群中运行)

    【讨论】:

      猜你喜欢
      • 2020-10-24
      • 1970-01-01
      • 1970-01-01
      • 2018-12-22
      • 2021-06-29
      • 1970-01-01
      • 2021-07-29
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多