【问题标题】:Unbox not working while running AWS Glue on local container在本地容器上运行 AWS Glue 时拆箱不起作用
【发布时间】:2023-01-26 07:03:39
【问题描述】:

我在我的本地机器上运行 AWS Glue 作业,用于学习目的。为此,我关注了this tutorial。我已经创建了一个 spark Dataframe,并使用 DynamicFrame.fromDF() 将其转换为胶水 DynamicFrame。我已经打印了一个模式并显示了每行 2 行,并且它有效。但是当我应用 Unbox 方法(将 JSON 字符串列转换为 Struct 列类型)时,数据框返回一个空数据框,但不返回任何错误。当我在未装箱的数据帧上运行 printSchema 时,它只返回根。会不会是docker镜像错误?

我正在关注 Unbox 类的 this tutorial

AWS Glue Docker image used

【问题讨论】:

    标签: amazon-web-services pyspark aws-glue aws-glue-spark


    【解决方案1】:

    @Paulo Henrique Zen 你有解决这个问题吗?我在本地运行时也面临同样的问题

    【讨论】:

    猜你喜欢
    • 2021-11-19
    • 1970-01-01
    • 2016-04-26
    • 2023-03-16
    • 2018-06-21
    • 1970-01-01
    • 1970-01-01
    • 2021-07-08
    • 2020-08-10
    相关资源
    最近更新 更多