【问题标题】:No module named 'gcp_sql_operator' in cloud composer云作曲家中没有名为“gcp_sql_operator”的模块
【发布时间】:2019-04-09 05:13:46
【问题描述】:

我无法将语句导入为-

from airflow.contrib.operators.gcp_sql_operator import CloudSqlQueryOperator

我想将它导入到我的 DAG 文件中,该文件将在版本为 1.10.0 而不是 1.9.0 的云作曲家气流中运行。这里只是为了检查,我尝试将 gcs_to_gcs 导入为-

from airflow.contrib.operators.gcs_to_gcs import GoogleCloudStorageToGoogleCloudStorageOperator

我可以导入这个,但不能导入 gcp_sql_operator。

【问题讨论】:

    标签: google-cloud-sql google-cloud-composer


    【解决方案1】:

    CloudSqlQueryOperator 运算符自 Airflow 1.10.2 发布,Composer versions 目前不支持。 Composer 应该很快就会支持 1.10.2,在此之前,您可能需要按照指令 here 手动将 gcp_sql_operator.py 及其依赖项复制到 Composer dags 文件夹。

    【讨论】:

    • 嗨@Feng,实际上我想执行使用cloudsqlqueryoperator 无法执行的SELECT 查询。我决定使用 cloudsqldatabasehook 来获取连接对象,并计划通过其他方式执行选择查询。但是,为了使用 cloudsqldatabasehook,当我尝试将其导入为 - from airflow.contrib.hooks.gcp_sql_hook import CloudSqlDatabaseHook 我收到错误“无法导入名称 CloudSqlDatabaseHook”但我可以从同一个 gcp_sql_hook.py 文件导入 cloudsqlhook 另一个类。跨度>
    • 如果您查看 Airflow 1.10.1 (github.com/apache/airflow/blob/1.10.1/airflow/contrib/hooks/…) 中的 gcp_sql_hook.py,您会注意到 CloudSqlDatabaseHook 类不包括在内(另一方面,它在 1.10 中可用。 2).
    • Airflow 1.10.2 现在可在 Composer 中使用。 Here 是支持的版本列表。
    猜你喜欢
    • 1970-01-01
    • 2016-01-20
    • 1970-01-01
    • 2021-11-14
    • 1970-01-01
    • 2015-07-24
    • 2012-11-11
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多