【问题标题】:Transferring data from VM Instances to BigQuery in GCP在 GCP 中将数据从 VM 实例传输到 BigQuery
【发布时间】:2020-06-09 06:31:08
【问题描述】:

我正在尝试将一些文件传输到 BigQuery,这些文件存储在我的 VM 实例中。通常我们会进行两步流程:

  1. 将文件从 VM 实例传输到 Cloud Storage 存储分区。
  2. 将数据从 Cloud Storage 存储分区获取到 BigQuery。

现在,我想将文件直接从虚拟机实例导入 BigQuery 平台。有什么办法吗?

【问题讨论】:

    标签: google-cloud-platform google-bigquery


    【解决方案1】:

    您可以使用以下方法直接从可读数据源(例如您的本地机器)加载数据:

    • Cloud Console 或经典 BigQuery 网页界面
    • bq 命令行工具的 bq 加载命令
    • API
    • 客户端库

    请关注official documentation,查看每种方式的使用示例。

    此外,如果您想保留将文件发送到 Cloud Storage 存储桶的想法,您可以考虑使用 Dataflow 模板:

    • 云存储文本到 BigQuery (Stream)
    • 云存储文本到 BigQuery (Batch)

    它允许您读取存储在 Cloud Storage 中的文本文件,使用您提供的 JavaScript 用户定义函数 (UDF) 对其进行转换,并将结果输出到 BigQuery。它是自动化的解决方案。

    希望以上信息对您有用。

    【讨论】:

    • 命令如下: bq load --autodetect --source_format=CSV x.y abc.csv
    【解决方案2】:

    解决方案是为此使用 bq 命令。 该命令将是这样的: bq load --autodetect --source_format=CSV x.y abc.csv

    【讨论】:

      猜你喜欢
      • 2018-07-19
      • 1970-01-01
      • 2020-03-31
      • 2020-10-26
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2019-11-05
      • 1970-01-01
      相关资源
      最近更新 更多