【发布时间】:2018-11-23 07:22:02
【问题描述】:
我们正在尝试通过在 Cloud Composer 中设置环境来创建 Airflow Connection:
export AIRFLOW_CONN_GCP_CONN_ID=google_cloud_platform://?extra__google_cloud_platform__project=<project_id>&extra__google_cloud_platform__scope=https://www.googleapis.com/auth/cloud-platform&extra__google_cloud_platform__key_path=<path_to_json_file>
在日志中,我们收到一条警告,抱怨未设置凭据。
INFO - 使用
google.auth.default()获取连接,因为没有为钩子定义密钥文件。
当我们查看代码内部时,我们发现如果 key_path 和 keyfile_data 未设置,则会出现此错误。但是我们在命令中设置了key_path。
对于内部代码,我们查看了 GitHub 上的 gcp_api_base_hook.py。
【问题讨论】:
-
您在使用 Cloud Composer 吗?您是否尝试过使用 cloud shell 中的 gcloud 命令设置环境变量?
gcloud composer environments update ENVIRONMENT_NAME \ --location LOCATION \ --update-env-variables=KEY=VALUE -
我们可以创建环境变量,但问题是 Airflow 代码无法使用它。
标签: google-cloud-platform airflow google-cloud-composer