如何将 CompletableFuture<Stream<T>> 转换为 Stream<CompletableFuture<T>>？

Question

就是这样。真的找不到更接近的东西。我想实现以下任务链

List<Item> items = Collections.singletonList(new Item("John Smith", "1997-2014"));

Stream<CompletableFuture<List<ScrappingResult>>> scrappingFutures =
    items.stream().map(item ->
        CompletableFuture.supplyAsync(() -> new ScrappingTask(item).call()));

Stream<CompletableFuture<ScrappingResult>> scrappingFuturesUnwrapped =
    scrappingFutures.map(resultsFuture -> ???);

Stream<CompletableFuture<TrimmingResult>> trimmingResults = scrappingFuturesUnwrapped.map(resultFuture ->
    // thenCompose?
    resultFuture.thenCompose(result -> {
        Path clipsDir = Paths.get("./"
            + result.getItem().getName()
            + "/" + result.getItem().getTimespan());

        AtomicInteger clipIdx = new AtomicInteger();

        return result.getVideo().getClips().stream()
            .map(clip -> CompletableFuture.supplyAsync(() ->
                new TrimmingTask(
                    ffmpegPath,
                    result.getVideo().getVideoUrl(),
                    clip,
                    clipsDir.resolve("clip_" + clipIdx.incrementAndGet() + ".mp3")).call())
            );
    });
);

最后一行在语法上不正确，但我希望能传达这个想法。所以，我想做两次 flatMap 之类的事情，最后得到 Stream<CompletableFuture<TrimmingResult>>。

我该怎么做？

谢谢。

Answer 1

如果我没有误解您的意图，您只想使结果变平。您可以使用Spliterator 懒惰地接收结果并使用flatMap 将Streams 合并到一个扁平流中，例如：

Stream<CompletableFuture<ScrappingResult>> scrappingFuturesUnwrapped =
               scrappingFutures.flatMap(each -> unwrap(each));

---

static <T> Stream<? extends CompletableFuture<T>> 
  unwrap(CompletableFuture<? extends List<? extends T>> master) {

    return generate(new Predicate<Consumer<? super CompletableFuture<T>>>() {

        private Iterator<? extends T> cursor;

        @Override
        public boolean test(Consumer<? super CompletableFuture<T>> consumer) {
            cursor = cursor == null ? await().iterator() : cursor;
            if (cursor.hasNext()) {
                consumer.accept(completedFuture(cursor.next()));
                return true;
            }
            return false;
        }

        //                        v--- blocked at the first time
        private List<? extends T> await() {
            try {
                return master.get();
            } catch (InterruptedException | ExecutionException e) {
                throw new CompletionException(e);
            }
        }
    });
}

static <T> Stream<? extends CompletableFuture<T>> 
  generate(Predicate<Consumer<? super CompletableFuture<T>>> generator) {

    long unknownSize = Long.MAX_VALUE;
    return stream(new AbstractSpliterator<CompletableFuture<T>>(unknownSize, 0) {
        public boolean tryAdvance(Consumer<? super CompletableFuture<T>> action) {
            return generator.test(action);
        }
    }, false);
}

总结

上面的解决方案只是我的第一个想法，在这种情况下它不是最好的方法，你可以用big design first 来反对它。然而，即使它是一个糟糕的解决方案，但我会保留它，因为它可能会让人们以其他方式思考。更多详情，您可以从这里查看@Holger 的cmets 和there。

我承认最好的做法是@Holger下面所说的，因为没有人写下来，请让我记录下来以服务更多人。

Stream<CompletableFuture<ScrappingResult>> scrappingFuturesUnwrapped =
               scrappingFutures.flatMap(each -> each.join().stream())
                               .map(CompletableFuture::completedFuture);

Answer 2

一般情况下，您无法执行这种倒车操作。在函数类别语言中，您有两个介于以下类别之间的函子：

T --> Stream<T>
Stream<T> --> CompletableFuture<Stream<T>>

你之间根本没有函子

T --> CompletableFuture<T>
CompletableFuture<T> --> Stream<CompletableFuture<T>>

如果您不想关心外部CompletableFuture 并需要Stream 语义，则需要某种StreamT monad transfomer。 Java 目前没有更高种类的类型支持，所以我不确定（但可能会应用一些非标准技巧）是否可以实现类似 StreamT