【问题标题】:Glue job workaround: call lambda to get secrets. But that doesn't work from Glue (but does from EC2)胶水作业解决方法:调用 lambda 以获取秘密。但这不适用于 Glue(但适用于 EC2)
【发布时间】:2020-05-22 05:40:54
【问题描述】:
我需要获取一个 Python Shell Glue 作业,一些数据库凭证存储在 AWS Secrets Manager 中。
这应该很简单,但我工作的组织似乎有一个模糊的 Secrets Manager 角色,到目前为止我无法修改它来做我想做的事。
当我在 EC2 上进行测试时,我调用 Lambda 以获取返回胶水的秘诀的解决方法有效,但从 Glue 开始,Lambda 调用永远挂起。我确保我正在运行的角色具有“Lambda 完全访问权限”,所以不是这样。
有什么想法吗?非常感谢。
【问题讨论】:
标签:
amazon-web-services
aws-lambda
aws-glue
aws-secrets-manager
【解决方案1】:
我的同事从 AWS Glue Python Shell 切换到使用 Python 的 Spark,并且成功了!
显然 Python shell 中的网络设置有什么不同?
【解决方案2】:
更新之前的错误答案:我在 Python Shell 版本中使用的代码有问题导致了问题;我对 Spark Python 版本进行了一些更改并让它工作。
一个性能说明:Spark 需要 11-14 分钟才能开始运行 Python,而 Python shell 几乎可以立即启动。所以后者调试起来要快得多。