【发布时间】:2018-08-24 08:06:23
【问题描述】:
有没有办法像在 Spark 中一样使用 dataframe.cache() 或 dataframe.persist() 在 Glue 中持久化 DynamicFrame?
【问题讨论】:
标签: aws-glue
有没有办法像在 Spark 中一样使用 dataframe.cache() 或 dataframe.persist() 在 Glue 中持久化 DynamicFrame?
【问题讨论】:
标签: aws-glue
不,目前没有办法直接持久化 DynamicFrame。但是,您可以将其转换为 DataFrame 并使用 df.persist() 或 df.cache(),然后在需要时将其转换回 DynamicFrame:
val df = dynamicFrame.toDF()
val cachedDf = df.persist()
val dynamicFrameCached = DynamicFrame(cachedDf, glueContext)
【讨论】: