【问题标题】:Boto3 Glue client create_job() module path error `ModuleNotFoundError`Boto3 Glue客户端create_job()模块路径错误`ModuleNotFoundError`
【发布时间】:2021-05-11 06:41:24
【问题描述】:

我正在尝试使用 boto3 客户端 create_job() 创建 Glue 作业,这是脚本:

job = client.create_job(Name=xxx,
                        Role=xxx,
                        Command={
                           'Name': 'glueetl',
                           'ScriptLocation': 's3://my_bucket_name/my_project_name/src/glue.py',
                           'PythonVersion': '3'},
                        DefaultArguments={
                           '--job-language': 'python',
                           '--extra-py-files': 's3://my_bucket_name/my_project_name/src/test.zip',
                           '--conf': 'spark.yarn.executor.memoryOverhead=7g --conf spark.jars.packages=xxx',
                                },
                        ExecutionProperty={
                           'MaxConcurrentRuns': 1
                                },
                        GlueVersion='1.0'
                        )

test.zip 中的结构是__init__.py 文件 + 'glue.py' 文件(与ScriptLocation 中指定的文件重复)+ example.py

在“glue.py”中我有import example,然后作业失败并出现错误"ErrorMessage":"ModuleNotFoundError: No module named \'example\'"

我试过from test import example,但没有用,我很困惑,卡在这里,Glue如何读取和导入模块?我需要设置什么吗?请问有人可以帮忙吗?非常感谢。

【问题讨论】:

    标签: python amazon-web-services boto3 aws-glue import-module


    【解决方案1】:

    _init_.py不正确。它应该是__init__.py(双下划线),如AWS docs 中所述。

    【讨论】:

    • 您好,打错字了,很抱歉造成混淆,我有__init__.py(双下划线)。
    • @Cecilia 你能提供你的test.zipglue.py的例子吗?
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2022-12-04
    • 1970-01-01
    • 1970-01-01
    • 2020-10-06
    • 2012-08-18
    相关资源
    最近更新 更多