【问题标题】:Setting Airflow Environment Variables And Accessing Connection设置气流环境变量和访问连接
【发布时间】:2018-11-23 07:22:02
【问题描述】:

我们正在尝试通过在 Cloud Composer 中设置环境来创建 Airflow Connection:

export AIRFLOW_CONN_GCP_CONN_ID=google_cloud_platform://?extra__google_cloud_platform__project=<project_id>&extra__google_cloud_platform__scope=https://www.googleapis.com/auth/cloud-platform&extra__google_cloud_platform__key_path=<path_to_json_file>

在日志中,我们收到一条警告,抱怨未设置凭据。

INFO - 使用 google.auth.default() 获取连接,因为没有为钩子定义密钥文件。

当我们查看代码内部时,我们发现如果 key_pathkeyfile_data 未设置,则会出现此错误。但是我们在命令中设置了key_path

对于内部代码,我们查看了 GitHub 上的 gcp_api_base_hook.py

【问题讨论】:

  • 您在使用 Cloud Composer 吗?您是否尝试过使用 cloud shell 中的 gcloud 命令设置环境变量? gcloud composer environments update ENVIRONMENT_NAME \ --location LOCATION \ --update-env-variables=KEY=VALUE
  • 我们可以创建环境变量,但问题是 Airflow 代码无法使用它。

标签: google-cloud-platform airflow google-cloud-composer


【解决方案1】:

我假设您正在使用云作曲家。
您可以将您的服务帐户凭据文件保存到气流环境中。
转到 Admin -- Connection select google_cloud_default 并输入您的服务帐户详细信息以及您需要访问的所需范围

【讨论】:

猜你喜欢
  • 2022-01-21
  • 2020-04-27
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2021-04-28
  • 1970-01-01
  • 2020-10-03
相关资源
最近更新 更多