【问题标题】:Append Data in a Big Query Table Automatically from Cloud Storage从 Cloud Storage 自动将数据追加到大查询表中
【发布时间】:2014-12-04 09:33:17
【问题描述】:

我有一些想要附加到 Big Query 表的 excel 文件。之后,我想通过每天运行 4 次的调度程序自动使用云存储将数据附加到同一个 Big Query 表中。这个怎么做。请记住,我不是开发人员。我只知道 SQL 和 Big Query。

【问题讨论】:

  • 数据如何进入 Google Cloud Storage 以及您如何知道文件的名称?您是否每天推送数据 4 次?如果是这样,您是否可以扩展您用来推送数据的任何脚本以启动 BigQuery 中的加载作业?
  • Michael...我正在手动将文件上传到云存储......我没有使用任何脚本,因为我不擅长高级脚本......我只知道BQ。

标签: google-bigquery google-cloud-storage


【解决方案1】:

我建议编写一个简单的脚本并将其托管在 Google App Engine 上,然后注册一个存储桶通知并将其与该 GAE 端点挂钩。

每当文件上传到存储桶时,GAE 都会收到通知,并调用您的脚本,然后脚本会获取文件,从中提取信息,并附加到您在 Big Query 中指定的表中。

https://cloud.google.com/storage/docs/object-change-notification#_Watching

【讨论】:

    猜你喜欢
    • 2019-12-04
    • 2022-11-11
    • 2018-04-22
    • 2023-03-08
    • 1970-01-01
    • 2018-04-30
    • 2017-11-13
    • 2013-05-24
    相关资源
    最近更新 更多