【问题标题】:Unload status in RedshiftRedshift 中的卸载状态
【发布时间】:2015-11-28 11:03:39
【问题描述】:

当您将数据加载到 Amazon Redshift 表时,您可以使用表 STV_LOAD_STATE 检查加载状态。

我想知道是否有办法实现相同的功能,但使用卸载操作。换句话说,我想知道是否有办法找出卸载过程的当前阶段。

【问题讨论】:

  • 据我所知,“卸载”操作是原子的,这意味着一旦“卸载”结束就会添加 S3 文件。您不能每隔一段时间检查一下 S3 存储桶上的文件吗? (针对某个文件路径的简单HTTP Get?)
  • 其实我正在寻找一种方法来检索卸载进度。表 STV_LOAD_STATE 有一个名为“pct_complete”的字段,可用于检索加载操作的完整性,以百分比表示。我正在寻找一种方法来获取相同的信息,但使用卸载操作。

标签: amazon-web-services amazon-redshift


【解决方案1】:

2021 年,我们有解决方案 STL_UNLOAD_LOG https://docs.aws.amazon.com/redshift/latest/dg/r_STL_UNLOAD_LOG.html

【讨论】:

    【解决方案2】:

    与将数据加载到 Redshift 中不同,Unloading 实际上必须运行一个 select 语句。因此,它无法像加载时那样告诉我们状态。

    例如,如果 select 语句必须连接多个表并扫描大量表以生成输出,那么即使实际卸载部分可能不是很长的部分,它也可能需要很长时间。

    所以我通常会检查 AWS 控制台中的查询执行步骤,以大致了解卸载的位置。

    我还检查了我正在卸载的 S3 文件夹,以查看文件是否开始进入。它们通常分批提供,因此也可以为您提供一个想法。

    【讨论】:

      猜你喜欢
      • 2017-01-25
      • 1970-01-01
      • 2019-07-13
      • 2017-01-08
      • 2019-09-15
      • 1970-01-01
      • 2021-12-22
      • 2014-03-12
      • 2017-11-17
      相关资源
      最近更新 更多