【问题标题】:How to add new files to spark structured streaming dataframe如何添加新文件以激发结构化流数据帧
【发布时间】:2018-01-10 20:30:00
【问题描述】:

我在 linux 服务器的文件夹中获取每日文件,我应该如何将这些文件添加到我的 spark 结构化流数据帧中? (增量更新)

【问题讨论】:

    标签: apache-spark apache-spark-sql spark-structured-streaming


    【解决方案1】:

    你读过文件吗?

    文件源 - 将写入目录中的文件作为数据流读取。支持的文件格式为文本、csv、json、parquet。请参阅 DataStreamReader 接口的文档以获取最新列表以及每种文件格式支持的选项。请注意,文件必须以原子方式放置在给定目录中,在大多数文件系统中,这可以通过文件移动操作来实现。

    https://spark.apache.org/docs/latest/structured-streaming-programming-guide.html#input-sources

    【讨论】:

      猜你喜欢
      • 2019-03-30
      • 2021-12-17
      • 1970-01-01
      • 2021-10-23
      • 1970-01-01
      • 1970-01-01
      • 2018-11-08
      • 2021-12-03
      • 1970-01-01
      相关资源
      最近更新 更多