【发布时间】:2016-08-04 15:37:21
【问题描述】:
对于下面的代码,stream1 和 stream2 都单独运行良好,我可以看到输出,但连接的流根本不记录任何内容。我感觉这与连接窗口有关,但是来自两个流的数据几乎同时进入。
val stream = builder.stream(stringSerde, byteArraySerde, "topic")
val stream1 = stream
.filter((key, value) => somefilter(key, value))
.through(stringSerde, byteArraySerde, "topic1")
val stream2 = stream
.filter((key, value) => someotherfilter(key, value))
.through(stringSerde, byteArraySerde, "topic2")
val joinedStream = stream1
.join(stream2, (value1: Array[Byte], value2: Array[Byte]) => {
println("wont print anything")
return somerandomdata
},
JoinWindows.of("othertopic").within(10000L),
stringSerde, byteArraySerde, byteArraySerde)
【问题讨论】:
-
一个连接窗口是根据嵌入的记录时间戳计算的(即,除了键和值之外,每个记录中包含的元数据)。如果您打印这些时间戳以进行调试,将会有所帮助。要访问它们,您需要使用 process() -- 给定的
context对象,包含当前处理的记录的时间戳(即,为每个处理的记录更新上下文)。
标签: java scala apache-kafka apache-kafka-streams