【问题标题】:Filtering between topics主题之间的过滤
【发布时间】:2018-03-07 20:13:32
【问题描述】:

我在一个主题中有 1,000 条记录。我正在尝试根据薪水过滤从输入主题到输出主题的记录。

例如:我想要工资高于 30,000 的人的记录。
我正在尝试通过 Java 使用 KSTREAMS。

记录为文本格式(逗号分隔),例如:

first_name, last_name, email, gender, ip_address, country, salary
Redacted,Tranfield,user@example.com,Female,45.25.XXX.XXX,Russia,$12345.01
Redacted,Merck,user@example.com,Male,236.224.XXX.XXX,Belarus,$54321.96
Redacted,Kopisch,user@example.com,Male,61.36.XXX.XXX,Morocco,$12345.05
Redacted,Edds,user@example.com,Male,6.87.XXX.XXX,Poland,$54321.72
Redacted,Alston,user@example.com,Female,56.146.XXX.XXX,Indonesia,$12345.16
...

这是我的代码:

public class StreamsStartApp {
public static void main(String[] args) {
System.out.println();
Properties config = new Properties();
config.put(StreamsConfig.APPLICATION_ID_CONFIG, "streams-starter-app");
config.put(StreamsConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092");
config.put(ConsumerConfig.AUTO_OFFSET_RESET_CONFIG, "earliest");
config.put(StreamsConfig.DEFAULT_KEY_SERDE_CLASS_CONFIG,   Serdes.String().getClass());
config.put(StreamsConfig.DEFAULT_VALUE_SERDE_CLASS_CONFIG, Serdes.String().getClass());

StreamsBuilder builder = new StreamsBuilder();

// Stream from Kafka topic
KStream<Long, Long> newInput = builder.stream("word-count-input");
Stream<Long, Long> usersAndColours = newInput
// step 1 - we ensure that a comma is here as we will split on it
.filter(value -> value.contains(",")
// step 2 - we select a key that will be the user id
.selectKey((key, value) -> value.split(",")[6])

// step 3 - got stuck here. 
// .filter(key -> key.value[6] > 30000 
// .selectKey((new1, value1) -> value1.split)(",")[3])
//  .filter((key, value) -> key.greater(10));
//    .filter((key, value) -> key > 10);
// .filter(key -> key.getkey().intValue() > 10);
usersAndColours.to("new-output");
Runtime.getRuntime().addShutdownHook(new Thread(streams::close))  

在上述第 1 步附近的代码中,我使用“,”分隔示例数据。
在第 2 步中,我选择了一个字段,即:salary 字段作为键。
现在在第 3 步中,我正在尝试使用薪水字段过滤数据。
我尝试了一些评论的方法,但没有任何效果。
任何想法都会有所帮助。

【问题讨论】:

  • 您的问题是什么?请注意,SO 不是代码编写服务 :)
  • 请不要在 SO 上发布真实用户信息
  • 这不是真实的用户信息。这是在 www.mokaroo.com 生成的一些样本随机信息(该网站生成随机样本数据)。
  • 注意:如果您使用 Avro,您可以同时拥有命名字段和类型信息,而不是解析 CSV
  • 哦,太好了。这么好的假数据骗了我:)

标签: java apache-kafka apache-kafka-streams


【解决方案1】:

首先,您的键和值都是 String serdes,而不是 Long,所以 KStream&lt;Long, Long&gt; 不正确。

value.split(",")[6] 只是一个字符串,而不是一个双精度数。 (或 Long,因为有十进制值)

您需要从列中删除 $ 并将字符串解析为 Double,然后您可以对其进行过滤。它也不是key.value[6],因为您的键不是具有值字段的对象。

如果你甚至需要一个密钥,那你应该把电子邮件作为关键,而不是薪水,那就是

实际上,您可以在一行中执行此操作(为了便于阅读,这里做了两个)

newInput.filter(value -> value.contains(",")  && 
    Double.parseDouble(value.split(",")[6].replace("$", "")) > 30000);

【讨论】:

  • 非常感谢 :) 会听从您的建议并做出改变。
  • 您可以使用帖子旁边的复选标记表示感谢
猜你喜欢
  • 1970-01-01
  • 2020-05-12
  • 2023-02-24
  • 2019-03-22
  • 1970-01-01
  • 1970-01-01
  • 2017-08-21
  • 2012-06-19
  • 1970-01-01
相关资源
最近更新 更多