【问题标题】:How can I get 'Bytes processed' and 'Bytes billed' when reading from Bigquery Storage API (python)从 Bigquery Storage API (python) 读取时,如何获得“已处理的字节数”和“已计费的字节数”
【发布时间】:2020-08-17 17:18:29
【问题描述】:

我正在从分区和集群的 BigQuery 表中读取数据。准确获取“已处理字节数”值的唯一方法是实际运行查询。

现在,如果我使用 Storage API 的 python 客户端库读取相同的数据,(从 https://github.com/googleapis/python-bigquery-storage/blob/master/samples/quickstart.py 获取设置) 在这种情况下,我怎样才能得到“处理的字节数”?

【问题讨论】:

  • 您的问题得到解答了吗?
  • 答案没有回答问题。但是,您的评论确实如此。在这种情况下不知道如何标记它。
  • 我可以将其发布为答案

标签: google-bigquery


【解决方案1】:

正如我所说,BigQuery Storage APIBigQuery API 的工作方式不同。

正如您在 API reference for BigQuery Storage API 中看到的那样,没有这样的字段保存有关已处理字节的必需信息。

希望对你有帮助

【讨论】:

    【解决方案2】:

    在存储 API 读取列文件时测量处理的字节数。在您的 Java 示例中,您通过调用存储 API 来做到这一点。在 BQ 中,这仅在您运行查询时调用。

    如果您只是在控制台中编辑查询,BQ 只会给您一个估计值。

    【讨论】:

    • 是的,我知道我必须运行查询才能获得确切的数字。这就是我想要的。在 BQ API 中,我可以在完成后在作业信息中看到它。存储 API 怎么样。这些信息在任何地方都可用吗?
    • 显然 BQ Storage API 在响应中没有此字段:cloud.google.com/bigquery/docs/reference/storage/rpc/…
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2015-04-14
    • 1970-01-01
    • 1970-01-01
    • 2021-06-03
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多