【问题标题】:BigQuery - scheduled query report error automaticallyBigQuery - 计划查询自动报告错误
【发布时间】:2021-12-05 03:39:36
【问题描述】:

我发现bigquery中的预定查询没有在依赖表运行错误时发出通知的功能。

例如table A的创建是基于table B,如果table B今天运行错误,我需要bigquery通知我table A今天有问题。 还有什么工具或软件可以帮助我解决这个问题?

【问题讨论】:

    标签: google-bigquery scheduled-tasks job-scheduling


    【解决方案1】:

    您可能想查看dbt - 此工具可以管理表构建和数据沿袭的顺序。它通过受支持的数据仓库profiles 支持 BigQuery。它还包括一个用于测试底层 SQL 代码的框架,因此您可以确保您的表构建不会由于代码中的任何错误而在 prod 中失败。加上许多其他功能...

    或者,您可以将 Google Cloud Pub/Sub 主题分配给计划查询。因此,GCP 原生解决方案可能涉及使用 Pub/Sub 链接 Cloud Functions 和/或使用新的 Workflows 服务,这有助于按照您定义的顺序将一系列无服务器任务链接在一起。因此,在这种情况下,您可以在执行下一个作业(表构建)之前检查现有 BigQuery 作业状态。

    【讨论】:

      猜你喜欢
      • 2021-03-15
      • 2013-01-08
      • 2019-09-08
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多