【问题标题】:Can I map multiple buckets with multiple topics in a single Kafka-Connector S3 sink connector?我可以在单个 Kafka-Connector S3 接收器连接器中映射具有多个主题的多个存储桶吗?
【发布时间】:2020-06-30 12:45:50
【问题描述】:

Google 没有帮助我,所以我想问问你。我有很多 kafka 主题,我想将特定主题的消息存储在特定的 S3 存储桶中。

我是否需要为每个存储桶创建一个 S3 接收器连接器,或者我可以在单个 S3 json 文件中配置所有内容(使用主题映射存储桶)?

感谢您的帮助! :)

【问题讨论】:

  • 那么每个主题一个桶,还是一个桶多个主题?
  • 每个主题一个桶。 :)

标签: amazon-s3 apache-kafka-connect


【解决方案1】:

S3 存储桶名称为 specified per-connector,因此您需要为每个存储桶创建一个连接器。

请注意,您可以为每个连接器指定多个主题 (topics / topics.regex),因此如果您希望多个主题进入 一个 存储桶(但路径不同),您可以使用单个连接器。但是对于多个存储桶,您将需要多个连接器。

【讨论】:

  • 嘿@robin,对于单个s3存储桶中的多个主题,我们只需要添加topics.regex : (SAP|EQ).* 还是我们还需要任何其他配置?
  • @KanikaM 请发布一个新问题。谢谢。
猜你喜欢
  • 2018-11-30
  • 2020-09-17
  • 2023-02-11
  • 2017-12-12
  • 2018-08-03
  • 1970-01-01
  • 1970-01-01
  • 2019-11-12
  • 2021-11-16
相关资源
最近更新 更多