【问题标题】:How can I create external data source in BigQuery and connect to composer cloud sql?如何在 BigQuery 中创建外部数据源并连接到 composer cloud sql?
【发布时间】:2020-10-10 06:23:30
【问题描述】:

我们在 GCP 中有一个 composer 环境,我们想将租户项目中的气流数据库导出到 BigQuery。有没有办法这样做? Composer

【问题讨论】:

    标签: google-cloud-platform google-cloud-sql google-cloud-composer


    【解决方案1】:

    我搜索了 Composer 的所有位置(在 GKE 上,使用密钥和云 SQL 代理),在 Airflow db connexion 中,我获得了将外部源连接到 BigQuery 所需的所有元素,但出现此错误:

    所以,你不能.....


    编辑 1:

    首先,您可以使用自动配置的连接

    然后,使用 MySqlOperator 请求数据库并执行您想要的操作。有时使用 MySqlHook 会更容易。

    【讨论】:

    • 哦,谢谢您的回复!所以我想我们没有办法访问气流数据库吗?实际上,我们想对这些数据进行一些分析并创建一些仪表板。
    • 您无法通过 BigQuery 访问数据库(这是您的问题!)。但是,是的,您可以访问数据库。您还可以想象您创建了一个 dag,该 dag 使用您想要的分析查询请求数据库并将结果存储在 BigQuery 中。然后将 Datastudio 插入 BigQuery 中存储的结果
    • 谢谢!这也有效。我可以创建一个 dag 来查询数据库并将其存储在 bigquery 中。你能告诉我如何访问数据库吗?
    猜你喜欢
    • 1970-01-01
    • 2022-01-24
    • 2019-04-18
    • 2020-05-02
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多