【问题标题】:ClickHouse - Inserting more than a hundred entries per queryClickHouse - 每个查询插入一百多个条目
【发布时间】:2019-10-04 20:29:19
【问题描述】:

我不知道如何增加每个查询的最大条目数。我想每个查询插入一千个条目,默认值为 100。

根据the doc,参数max_partitions_per_insert_block定义了同时进入的限制。

我尝试从 ClickHouse 客户端修改它,但我的插入仍然失败:

$ clickhouse-client
my-virtual-machine :) set max_partitions_per_insert_block=1000

*SET* max_partitions_per_insert_block = 1000

Ok.

0 rows in set. Elapsed: 0.001 sec. 

此外,/etc/clickhouse-server/config.xml 文件中没有 max_partitions_per_insert_block 字段。

修改max_partitions_per_insert_block后,我尝试插入我的数据,但我遇到了这个错误:

infi.clickhouse_orm.database.ServerError: Code: 252, e.displayText() = DB::Exception: Too many partitions for single INSERT block (more than 100). The limit is controlled by 'max_partitions_per_insert_block' setting. Large number of partitions is a common misconception. It will lead to severe negative performance impact, including slow server startup, slow INSERT queries and slow SELECT queries. Recommended total number of partitions for a table is under 1000..10000. Please note, that partitioning is not intended to speed up SELECT queries (ORDER BY key is sufficient to make range queries fast). Partitions are intended for data manipulation (DROP PARTITION, etc). (version 19.5.3.8 (official build))

编辑:我仍然坚持这一点。我什至无法使用SET max_partitions_per_insert_block = 1000 手动将参数设置为我想要的值:该值已更改,但在退出并重新打开 clickhouse-client 后会返回 100(即使使用sudo,所以它看起来不像权限问题) .

【问题讨论】:

    标签: clickhouse


    【解决方案1】:

    我在再次阅读文档时发现了这一点,尤其是this document。我在system.settings 表中看到的web 配置文件设置中已识别。我只是尝试在我的默认配置文件中插入以下内容,重新加载,并且我插入了一千个条目很好:<max_partitions_per_insert_block>1000</max_partitions_per_insert_block>

    我想这对某些人来说是显而易见的,但对于没有经验的人来说可能不是。

    【讨论】:

      【解决方案2】:

      您很可能应该更改分区方案。每个分区在文件系统上生成多个文件,这可能导致操作系统中断。此外,这可能是长期合并的原因。

      【讨论】:

      • 是的,这是我实验后理解的。我不明白分区是如何创建的,以及它们对系统查找数据有何用处。但是我仍然没有弄清楚如何有效地更改我的分区键。尽管如此,由于我必须处理的文件的性质,我仍然需要增加每个块的最大分区。
      • 也许削弱分区键是有意义的,例如使用正则表达式
      • 或者使用**按元组分区()**
      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2011-04-21
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多