【问题标题】:KAFKA JDBC Source connector adds the default schemaKAFKA JDBC Source 连接器添加了默认模式
【发布时间】:2021-09-01 23:53:23
【问题描述】:

我使用 KAFKA JDBC 源连接器从数据库 ClickHouse(驱动程序 - clickhouse-jdbc-0.2.4.jar)中读取并增加 mod。 设置:

    batch.max.rows = 100
    catalog.pattern = null
    connection.attempts = 3
    connection.backoff.ms = 10000
    connection.password = [hidden]
    connection.url = jdbc:clickhouse://<ip>:8123/<schema>
    connection.user = user
    db.timezone = 
    dialect.name = 
    incrementing.column.name = id
    mode = incrementing
    numeric.mapping = null
    numeric.precision.mapping = false
    poll.interval.ms = 5000
    query = 
    query.suffix = 
    quote.sql.identifiers = never
    schema.pattern = null
    table.blacklist = []
    table.poll.interval.ms = 60000
    table.types = [TABLE]
    table.whitelist = [<table_name>]
    tables = [default.<schema>.<table_name>]
    timestamp.column.name = []
    timestamp.delay.interval.ms = 0
    timestamp.initial = null
    topic.prefix = staging-
    validate.non.null = false

为什么连接器还要替代默认方案?以及如何避免?

而不是请求

SELECT * FROM &lt;schema&gt;.&lt;table_name&gt; WHERE &lt;schema&gt;.&lt;table_name&gt;.id &gt; ? ORDER BY &lt;schema&gt;.&lt;table_name&gt;.id ASC

我收到一个错误

SELECT * FROM default.&lt;schema&gt;.&lt;table_name&gt; WHERE default.&lt;schema&gt;.&lt;table_name&gt;.id &gt; ? ORDER BY default.&lt;schema&gt;.&lt;table_name&gt;.id ASC

【问题讨论】:

  • 在默认架构或任何特定架构中创建表的位置?
  • 在特定方案中。我把它写在cinnection.url 中。 jdbc:clickhouse://&lt;ip&gt;:8123/&lt;schema&gt;

标签: jdbc apache-kafka clickhouse


【解决方案1】:

您可以像下面这样创建 CH 数据源对象(其中不传递架构名称)。

final ClickHouseDataSource dataSource = new ClickHouseDataSource(
        "jdbc:clickhouse://"+host+"/"+user+"?option1=one%20two&option2=y"); 

然后在 SQL 查询中,你可以指定一个模式名称(schema.table)。因此它不会在您的查询中添加默认架构。

【讨论】:

  • 事实是我不想问sql查询。我想在设置中指定架构和 N 个表,以便 JDBC 连接器自己构建对所需架构的查询。现在,我必须按照您的描述进行操作,并为每个表创建一个单独的连接器。
猜你喜欢
  • 2019-10-30
  • 1970-01-01
  • 1970-01-01
  • 2019-11-08
  • 2018-12-07
  • 2020-03-31
  • 2018-05-01
  • 2020-04-09
  • 1970-01-01
相关资源
最近更新 更多