【问题标题】:Filtering a Kafka stream against a huge list of elements根据大量元素过滤 Kafka 流
【发布时间】:2018-11-08 17:40:32
【问题描述】:

我有一个非常具体的要求,我在消费来自 Kafka 主题的记录。从该主题读取的记录包含客户的个人银行交易。很明显,里面有银行账号。 此外,我在 Oracle 中有一个包含客户帐号的数据库表。该表有大约 50k 条记录,这些记录是订阅特定服务的帐户。 要求是我想对从 Kafka 主题流式传输的记录进行过滤,以便它应该只给我来自主题的那些记录,其帐号与上表中的 50k 帐号匹配。

注意:我为此使用 Java 8。

希望我已经为我试图解释的场景提供了足够的信息。

【问题讨论】:

    标签: collections java-8 kafka-consumer-api apache-kafka-streams


    【解决方案1】:

    您可以将帐号加载到GlobalKTable 中并再次加入表中的流。如果使用内连接,结果流将只包含匹配的记录。

    【讨论】:

      猜你喜欢
      • 2018-10-20
      • 2018-01-10
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2018-07-14
      • 2014-05-06
      相关资源
      最近更新 更多