【问题标题】:How to clone field in Kafka Connect?如何克隆 Kafka Connect 中的字段?
【发布时间】:2019-05-29 23:49:22
【问题描述】:

我正在配置 Kafka Connect 以将数据从 Kafka 复制到数据库

我需要将某个字段的值放入数据库中的两列。

我的 Kafka 消息有两个字段nameage。目标表有 3 列 namedisplayNameage。我想从 Kafka 消息中克隆 name 的值,将其放在 namedisplayName 两列中。

是否有任何可以应用的转换来做到这一点?

【问题讨论】:

  • 您可以尝试使用转换:docs.confluent.io/current/connect/transforms/…
  • 我阅读了有关默认转换的信息,但我如何理解 InsertField 允许您添加具有静态值的字段或消息中的元数据信息(例如主题名称分区等),还是我错了?跨度>

标签: apache-kafka apache-kafka-connect


【解决方案1】:

正如 Driss Nejjar 所说,这通常是单消息转换最适合的事情。但是,我可以看到没有随 Apache Kafka 提供的 Transform 可以做到这一点。你可以write your own,也可以使用KSQL:

CREATE STREAM new AS SELECT name, name as displayName, age FROM source;

这将获取您的 source 主题(由 Connect 填充),并添加附加字段 displayName,并写入名为 new 的新 Kafka 主题。

免责声明:我为 KSQL 项目背后的公司 Confluent 工作。

【讨论】:

    猜你喜欢
    • 2012-10-09
    • 2020-11-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2019-10-19
    • 2020-11-27
    • 1970-01-01
    • 2013-11-05
    相关资源
    最近更新 更多