【发布时间】:2020-02-20 13:51:43
【问题描述】:
我们目前正在尝试使用 Debezium 来捕获 Postgres 数据库中 4 个表的更改。我们目前知道,对于这个用例,我们可以使用 kafka-streams 应用程序来连接/聚合 KTable 的表,但是我们希望保持 kafka-stream 拓扑简单,因此我们的想法是使用 Postgres 的物化视图和捕捉它的变化。
是否可以这样做,如果可以,我们应该如何配置它?
Kafka Connect 源配置:
{
"name": "campaign-db-source-connector",
"config": {
"connector.class": "io.debezium.connector.postgresql.PostgresConnector",
"key.converter": "io.confluent.connect.avro.AvroConverter",
"value.converter": "io.confluent.connect.avro.AvroConverter",
"key.converter.schema.registry.url": "http://schema-registry:8081",
"value.converter.schema.registry.url": "http://schema-registry:8081",
"tasks.max": "1",
"database.hostname": "campaign-db",
"database.port": "5432",
"database.user": "postgres",
"database.password": "postgres",
"database.dbname" : "campaigndb",
"database.server.name": "campaign-db"
}
}
此配置目前可以从单个表中捕获所有更改,但不能从物化视图中捕获。 (没有创建主题)
【问题讨论】:
标签: postgresql apache-kafka apache-kafka-connect debezium