【问题标题】:Convert Spark SQL DataFrames to Structured Streaming DataFrames将 Spark SQL 数据帧转换为结构化流数据帧
【发布时间】:2021-10-23 02:37:00
【问题描述】:

我想将 Java Spark SQL 数据帧转换为结构化流数据帧,这样每个批次都将合并到结构化流数据帧。因此,我可以在从批处理源获得的 DataFrame 上使用 Spark 结构化流式处理功能(例如连续作业)。

【问题讨论】:

    标签: apache-spark apache-spark-sql spark-structured-streaming


    【解决方案1】:

    与 Java 无关,并且标题有点偏离主题。

    如您所说,不支持标准操作。

    查看foreachBatch 实现的文档。请参阅https://spark.apache.org/docs/3.1.2/structured-streaming-programming-guide.html#foreachbatch 并执行 UNION 读取静态 DF 的操作。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 2016-09-27
      • 2019-01-16
      • 2020-07-24
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2018-12-31
      相关资源
      最近更新 更多