【问题标题】:BigQuery very slow CSV uploadBigQuery 非常慢的 CSV 上传
【发布时间】:2019-03-01 04:30:12
【问题描述】:

BigQuery 在 2019 年 2 月 26 日 16:00 UTC 突然将 CSV 上传速度降低了大约 10 倍,以通过 API 替换现有表。

什么会导致上传时间突然增加?以前需要 30 分钟,现在需要 6 小时。

【问题讨论】:

  • 检查您的流程执行时间是否超出了您的项目槽限制?
  • 对于调试,请使用 BigQuery 问题跟踪器并确保包含作业 ID
  • @TamirKlein 我如何检查这个?

标签: csv upload insert stream google-bigquery


【解决方案1】:

由于您的问题是一般性问题,因此我为您提供一些关于如何继续的指导。
您可以在结果附近的 webUI 中找到执行计划,也可以从左上角面板的 Job history 中找到执行计划,请参阅下图了解如何打开查询的执行计划。

重要提示:

  1. 您会看到显示执行生命周期的 4 个颜色阶段,如果等待阶段是彩色而不是灰色,则表示您正在等待资源
  2. 一个阶段的输出是第二个阶段的输入,因此,如果您的输出很大,则可能意味着下一步正在努力完成,围绕此的最佳实践很少,可以针对特定问题进行描述李>

  1. 您还可以展开该步骤并查看更多有趣的详细信息,例如:随机播放、广播、排序等,这可以帮助您了解有关幕后情况的更多信息

  1. 这是BigQuery URL,提供有关执行计划的更多详细信息(请查看Job.get API 以通过 API 获取执行计划)
  2. 这是BigQuery Limit信息

【讨论】:

  • @Michael,希望我的回答对您有所帮助,注意:对 SO 很重要 - 您可以使用已发布答案左侧的勾号(投票下方)标记已接受的答案。请参阅meta 了解为什么它很重要
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 2020-03-26
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2021-03-01
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多