【发布时间】:2021-10-23 02:37:00
【问题描述】:
我想将 Java Spark SQL 数据帧转换为结构化流数据帧,这样每个批次都将合并到结构化流数据帧。因此,我可以在从批处理源获得的 DataFrame 上使用 Spark 结构化流式处理功能(例如连续作业)。
【问题讨论】:
标签: apache-spark apache-spark-sql spark-structured-streaming
我想将 Java Spark SQL 数据帧转换为结构化流数据帧,这样每个批次都将合并到结构化流数据帧。因此,我可以在从批处理源获得的 DataFrame 上使用 Spark 结构化流式处理功能(例如连续作业)。
【问题讨论】:
标签: apache-spark apache-spark-sql spark-structured-streaming
与 Java 无关,并且标题有点偏离主题。
如您所说,不支持标准操作。
查看foreachBatch 实现的文档。请参阅https://spark.apache.org/docs/3.1.2/structured-streaming-programming-guide.html#foreachbatch 并执行 UNION 读取静态 DF 的操作。
【讨论】: