【发布时间】:2023-01-26 07:03:39
【问题描述】:
我在我的本地机器上运行 AWS Glue 作业,用于学习目的。为此,我关注了this tutorial。我已经创建了一个 spark Dataframe,并使用 DynamicFrame.fromDF() 将其转换为胶水 DynamicFrame。我已经打印了一个模式并显示了每行 2 行,并且它有效。但是当我应用 Unbox 方法(将 JSON 字符串列转换为 Struct 列类型)时,数据框返回一个空数据框,但不返回任何错误。当我在未装箱的数据帧上运行 printSchema 时,它只返回根。会不会是docker镜像错误?
我正在关注 Unbox 类的 this tutorial。
【问题讨论】:
标签: amazon-web-services pyspark aws-glue aws-glue-spark