【发布时间】:2017-02-11 02:48:56
【问题描述】:
我创建了为一个主题 A 生成 MSG 的生产者,我的需要是我想对该 MSG 进行更改并将其发送到另一个主题 B,我正在尝试通过 Kafka 流来执行此操作,但不确定这是否正确。如果它需要 Kafka 流,那么请分享应该编写的代码是什么?
【问题讨论】:
-
我会为此使用 Kafka Streams。
标签: java apache-kafka apache-kafka-streams
我创建了为一个主题 A 生成 MSG 的生产者,我的需要是我想对该 MSG 进行更改并将其发送到另一个主题 B,我正在尝试通过 Kafka 流来执行此操作,但不确定这是否正确。如果它需要 Kafka 流,那么请分享应该编写的代码是什么?
【问题讨论】:
标签: java apache-kafka apache-kafka-streams
有很多方法可以做到这一点。
Kafka 的 Streams API 是一种可能性,其优点是您无需向项目添加新的依赖项。像程序一样简单的stream.map(...).to(...) 应该这样做。查看文档和示例了解更多详情:
您甚至可以只使用普通的 KafkaConsumer 和 KafkaProducer 来完成此操作(但使用 Kafka 的 Streams API 似乎比这更自然)。
当然,您也可以使用流处理框架,如 Apache Flink、Apache Storm、Apache Apex、Heron(或者可能是 Apache Spark)——当然,还有其他框架。如上所示,该程序的编写同样简单。但是您需要设置一个处理集群来为这些流处理框架部署您的作业。
【讨论】:
【讨论】: