【发布时间】:2021-12-05 03:39:36
【问题描述】:
我发现bigquery中的预定查询没有在依赖表运行错误时发出通知的功能。
例如table A的创建是基于table B,如果table B今天运行错误,我需要bigquery通知我table A今天有问题。
还有什么工具或软件可以帮助我解决这个问题?
【问题讨论】:
标签: google-bigquery scheduled-tasks job-scheduling
我发现bigquery中的预定查询没有在依赖表运行错误时发出通知的功能。
例如table A的创建是基于table B,如果table B今天运行错误,我需要bigquery通知我table A今天有问题。
还有什么工具或软件可以帮助我解决这个问题?
【问题讨论】:
标签: google-bigquery scheduled-tasks job-scheduling
您可能想查看dbt - 此工具可以管理表构建和数据沿袭的顺序。它通过受支持的数据仓库profiles 支持 BigQuery。它还包括一个用于测试底层 SQL 代码的框架,因此您可以确保您的表构建不会由于代码中的任何错误而在 prod 中失败。加上许多其他功能...
或者,您可以将 Google Cloud Pub/Sub 主题分配给计划查询。因此,GCP 原生解决方案可能涉及使用 Pub/Sub 链接 Cloud Functions 和/或使用新的 Workflows 服务,这有助于按照您定义的顺序将一系列无服务器任务链接在一起。因此,在这种情况下,您可以在执行下一个作业(表构建)之前检查现有 BigQuery 作业状态。
【讨论】: