如何使用kafka流处理块/批处理数据？

Question

对于大数据中的许多情况，最好一次使用少量记录缓冲区，而不是一次处理一条记录。

最自然的例子是调用一些支持批处理以提高效率的外部 API。

我们如何在 Kafka Streams 中做到这一点？我在 API 中找不到任何我想要的东西。

到目前为止，我有：

builder.stream[String, String]("my-input-topic")
.mapValues(externalApiCall).to("my-output-topic")

我想要的是：

builder.stream[String, String]("my-input-topic")
.batched(chunkSize = 2000).map(externalBatchedApiCall).to("my-output-topic")

在 Scala 和 Akka Streams 中，该函数称为 grouped 或 batch。在 Spark Structured Streaming 中，我们可以使用 mapPartitions.map(_.grouped(2000).map(externalBatchedApiCall))。

Answer 1

您可以使用队列。如下所示，

@Component
@Slf4j
public class NormalTopic1StreamProcessor extends AbstractStreamProcessor<String> {

    public NormalTopic1StreamProcessor(KafkaStreamsConfiguration configuration) {
        super(configuration);
    }

    @Override
    Topology buildTopology() {
        KStream<String, String> kStream = streamsBuilder.stream("normalTopic", Consumed.with(Serdes.String(), Serdes.String()));
        // .peek((key, value) -> log.info("message received by stream 0"));
        kStream.process(() -> new AbstractProcessor<String, String>() {
            final LinkedBlockingQueue<String> queue = new LinkedBlockingQueue<>(100);
            final List<String> collection = new ArrayList<>();

            @Override
            public void init(ProcessorContext context) {
                super.init(context);
                context.schedule(Duration.of(1, ChronoUnit.MINUTES), WALL_CLOCK_TIME, timestamp -> {
                    processQueue();
                    context().commit();
                });
            }

            @Override
            public void process(String key, String value) {
                queue.add(value);
                if (queue.remainingCapacity() == 0) {
                    processQueue();
                }
            }

            public void processQueue() {
                queue.drainTo(collection);
                long count = collection.stream().peek(System.out::println).count();
                if (count > 0) {
                    System.out.println("count is " + count);
                    collection.clear();
                }
            }
        });
        kStream.to("normalTopic1");
        return streamsBuilder.build();
    }

}

Answer 2

似乎还不存在。关注这个空间https://issues.apache.org/jira/browse/KAFKA-7432

Answer 3

我怀疑 Kafka 流目前是否像其他工具一样支持固定大小的窗口。
但是有基于时间的窗口，由 kafka 流支持。 https://kafka.apache.org/11/documentation/streams/developer-guide/dsl-api.html#windowing

您可以随时间定义窗口大小，而不是记录数。

1. 翻滚时间窗口
2. 滑动时间窗口
3. 会话窗口
4. 跳跃时间窗口

在您的情况下，可以选择使用 Tumbling Time Window。这些是不重叠的、固定大小的时间窗口。

例如，大小为 5000 毫秒的翻转窗口具有可预测性 窗口边界 [0;5000),[5000;10000),... - 而不是 [1000;6000),[6000;11000),... 甚至是“随机”的东西 [1452;6452),[6452;11452),....