【问题标题】:How do I find out how much of my 1TB free monthly allotment I've used in Google BigQuery?如何了解我在 Google BigQuery 中使用的每月 1TB 免费配额中有多少?
【发布时间】:2020-06-22 17:41:12
【问题描述】:

我觉得除了总结每个查询的“处理的字节数”数量之外,还必须有一些方法可以计算出还剩下多少 free 1TB。但我无法在控制台或其他地方找到它。

【问题讨论】:

    标签: google-bigquery


    【解决方案1】:

    不幸的是,现在这并不容易。正如您所说,获得答案的最佳方法是总结为您运行的查询处理的字节数。

    您可以通过BQ jobs.list API 获取数据,也可以使用BQ's audit logs,如果这样更方便的话。甚至可以在 BQ 中查询审计日志,但这当然会产生额外的使用。 :-)

    您还可以通过GCP console 查看 GCP 服务的未计费使用情况。但是,这仅会在您产生一些实际 BQ 费用(即,一旦您超过 1 TB)后显示免费 1 TB 层的 BQ 使用情况,这使其对您的特定用例不太有用。

    【讨论】:

    • 我看到了 "Google Storage -- Download US EMEA"、"BigQuery -- Active Storage" 和 "Google Storage -- Standard Storage US" 的条目。我处理的数据没有任何内容,因为我还没有超过 1TB 的免费限制。我想知道我离 1TB 限制还有多远。
    • 嗯,您应该会看到 BigQuery Analysis 的条目。在您超过 1TB 限制之前,此页面可能不会显示任何内容。我会看看我能不能弄清楚这里发生了什么......
    • 事实证明,在您消耗前 1 TB 之前,您实际上无法看到使用情况。我已经更新了我的答案。
    【解决方案2】:

    要扩展 Jeremy 的答案,您也可以直接通过 INFORMATION_SCHEMA.JOBS_BY_* 视图获取该信息,正如我在 my answerHow can I monitor incurred BigQuery billings costs (jobs completed) by table/dataset in real-time? 中基于 How to monitor query costs in Google BigQuery 解释的那样

    SELECT 
      (SUM(total_bytes_processed) * 5) / (1024 * 1024 *1024 *1024),
    FROM
      `region-us`.INFORMATION_SCHEMA.JOBS_BY_USER
    

    请考虑链接答案中提到的注意事项(缓存、特定区域的每 TB 成本……)!

    【讨论】:

      猜你喜欢
      • 2015-09-21
      • 2023-03-06
      • 2015-02-26
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2020-07-17
      • 1970-01-01
      相关资源
      最近更新 更多