【发布时间】:2021-08-20 10:33:03
【问题描述】:
我有一个带有时间戳的 S3 对象列表
例如:s3://01-02-20:10:00:00 , s3://01-02-20:10:00:01
等等。
我想将 S3 过去 5 分钟内的所有文件作为 DataSource 消耗到 flink 中,并按预期进行检查点工作。
我们可以使用当前基于文件的源来做到这一点吗/这甚至可能吗?
【问题讨论】:
-
创建自己的数据源
RichSourceFunction,并在run方法中过滤事件。
标签: apache-flink flink-streaming