【问题标题】:SNOW PIPE status - LastRecievedMessageTimestamp > LastForwardedMessageTImestamp. are messages not forwarded?SNOWPIPE 状态 - LastRecievedMessage 时间戳 > LastForwardedMessage 时间戳。消息没有转发吗?
【发布时间】:2021-11-09 07:07:18
【问题描述】:
雪管状态:
- 我通常通过查看 LastForwardedMessageTImestamp > LastRecievedMessageTimestamp 来验证“接收和转发数据”是否已完成。
- 在此管道状态下,LastRecievedMessageTimestamp 大于 LastForwardedMessageTImestamp。 这是否意味着 SQS 没有将消息转发到 SNOWPIPE?
【问题讨论】:
标签:
snowflake-cloud-data-platform
snowflake-schema
【解决方案1】:
通常,您的 notification_channel 对于您帐户中的所有 PIPES 都是相同的。
所有管道都链接到同一个 SQS 队列,因此它们都会在触发文件通知时收到消息。这就是为什么您的所有管道在给定时间都应该具有相同的 lastReceivedMessageTimestamp 的原因。
只有当消息与管道定义中配置的位置/模式匹配时,管道才会将消息转发到给定的 COPY 指令。