【问题标题】:Aws Glue: how to persist a DynamicFrameAws Glue:如何持久化 DynamicFrame
【发布时间】:2018-08-24 08:06:23
【问题描述】:

有没有办法像在 Spark 中一样使用 dataframe.cache() 或 dataframe.persist() 在 Glue 中持久化 DynamicFrame?

【问题讨论】:

    标签: aws-glue


    【解决方案1】:

    不,目前没有办法直接持久化 DynamicFrame。但是,您可以将其转换为 DataFrame 并使用 df.persist()df.cache(),然后在需要时将其转换回 DynamicFrame:

    val df = dynamicFrame.toDF()
    val cachedDf = df.persist()
    val dynamicFrameCached = DynamicFrame(cachedDf, glueContext)
    

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 2021-12-09
      • 1970-01-01
      • 2019-08-22
      • 2020-10-14
      • 1970-01-01
      • 2018-09-28
      • 1970-01-01
      相关资源
      最近更新 更多