【问题标题】:BigQuery to GCS and GCS to MysqlBigQuery 到 GCS 和 GCS 到 Mysql
【发布时间】:2021-02-09 11:49:18
【问题描述】:

我正在创建一个 Airflow 管道,在其中我使用 BigQueryOperator 查询我的 BigQuery 表并使用 BigQueryToCloudStorageOperator 将结果表以 csv 格式导出到 GCS。

我需要将 csv 移动到一个 mysql 数据库中,它应该作为一个表存储在 mysql 数据库中。

我能否就如何实现这一点获得任何建议或想法。谢谢!

【问题讨论】:

  • Cloud SQL 可以加载 CSV 文件。如果不存在运算符,您可以创建一个 python 运算符并为此调用 API。你被困在哪里了?

标签: google-bigquery google-cloud-storage


【解决方案1】:

由于您的用例是在 BigQuery 中查询数据并将数据存储在您的 MySql 数据库中,因此您可以使用 BigQueryToMySqlOperator

从 BigQuery 表中获取数据(或者为 选定的列)并将该数据插入到 MySQL 表中。

【讨论】:

    猜你喜欢
    • 2020-01-25
    • 2020-04-20
    • 2018-10-29
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2021-12-12
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多