【发布时间】:2020-05-12 13:16:34
【问题描述】:
在 Airflow 中,我定义了 2 个每天运行的任务:
- 第一个创建一个 zip 文件并将其保存在 AWS 的
s3://{bucket-name}/foo/bar/{date}/archive.zip下 - 第二个预先签署该网址(应在 7 天后过期)并将其发送到 Slack。
由于 Qubole 使用 IAM 角色,因此生成的 url 将在密钥轮换时过期(据我所知不到 24 小时)。
我正在尝试为此寻找解决方案。 我目前的想法是将第二个任务转移到 AWS lambda 中并使用 IAM 用户凭证来避免过期问题。
有没有其他方法我可以采取而不会使它过于复杂?
【问题讨论】:
标签: amazon-web-services airflow qubole