【问题标题】:How to add a partition expiration to a BigQuery Materialized View如何将分区过期时间添加到 BigQuery 物化视图
【发布时间】:2020-11-27 22:24:08
【问题描述】:

我有一个按时间戳分钟和其他几列聚合的具体化视图。我将它用于各种时间序列监控。我只想在这个 MV 中保留最近 7 天的数据,因为它是很多我不需要长期的聚合数据。现在只有一个硬编码的日期过滤器。

我尝试了一些限制 MV 的方法,但都没有奏效。

OPTIONS ( partition_expiration_days = 7) --> 不起作用。基表没有过期。

where _partitiondate >= date_sub(current_date(),interval 7 day) --> 不起作用。 "物化视图查询不能使用依赖于当前时间的函数"

order by partitiondate desc limit 1000000 也不起作用。

我必须保持这张表合理大小的唯一想法是气流/作曲家工作,每天左右用硬编码的日期过滤器替换 MV。

有更好的想法吗?

【问题讨论】:

    标签: google-bigquery materialized-views


    【解决方案1】:

    不得在物化视图上设置分区过期。

    物化视图隐式地从基表继承分区过期时间。物化视图分区与基表分区对齐,因此它们同步过期。 Reference.

    【讨论】:

      猜你喜欢
      • 2015-09-09
      • 2021-08-10
      • 2017-11-30
      • 2020-04-08
      • 2021-03-26
      • 2016-02-19
      • 1970-01-01
      • 2018-03-30
      相关资源
      最近更新 更多