【发布时间】:2020-06-09 06:31:08
【问题描述】:
我正在尝试将一些文件传输到 BigQuery,这些文件存储在我的 VM 实例中。通常我们会进行两步流程:
- 将文件从 VM 实例传输到 Cloud Storage 存储分区。
- 将数据从 Cloud Storage 存储分区获取到 BigQuery。
现在,我想将文件直接从虚拟机实例导入 BigQuery 平台。有什么办法吗?
【问题讨论】:
标签: google-cloud-platform google-bigquery
我正在尝试将一些文件传输到 BigQuery,这些文件存储在我的 VM 实例中。通常我们会进行两步流程:
现在,我想将文件直接从虚拟机实例导入 BigQuery 平台。有什么办法吗?
【问题讨论】:
标签: google-cloud-platform google-bigquery
您可以使用以下方法直接从可读数据源(例如您的本地机器)加载数据:
请关注official documentation,查看每种方式的使用示例。
此外,如果您想保留将文件发送到 Cloud Storage 存储桶的想法,您可以考虑使用 Dataflow 模板:
它允许您读取存储在 Cloud Storage 中的文本文件,使用您提供的 JavaScript 用户定义函数 (UDF) 对其进行转换,并将结果输出到 BigQuery。它是自动化的解决方案。
希望以上信息对您有用。
【讨论】:
解决方案是为此使用 bq 命令。 该命令将是这样的: bq load --autodetect --source_format=CSV x.y abc.csv
【讨论】: