【问题标题】:Loading time of Hazelcast IMapHazelcast IMap 的加载时间
【发布时间】:2021-03-18 11:59:38
【问题描述】:

我在数据库中有 1 百万个条目,我必须将所有内容都放入 Hazelcast IMap。

那么现在如何测试IMap的加载时间呢?

【问题讨论】:

    标签: caching hazelcast


    【解决方案1】:

    您可以通过多种方式加载地图;一旦你有了加载代码,你就可以做一些简单的事情,比如在加载前后调用 System.currentTimeMillis() 来查看它需要多长时间。

    您可以使用 Hazelcast 提供的 MapLoader 功能在成员(集群)端进行加载,或者编写自己的 JDBC 代码在客户端加载条目并将它们添加到集群中。您还可以将 Hazelcast Jet 用作摄取/ETL 引擎,如果您想在加载数据时对其进行过滤、丰富或数据转换,这将特别有用。

    如果您从客户端加载,您确实希望避免迭代 JDBC 结果集并一次将条目放入映射的幼稚方法 - 为每个一百万个条目会扼杀你的表现。在我最近教授的培训班的实验室练习中,我将包含 55000 个条目的整个表加载到 java.util.HashMap 中,然后执行 IMap.putAll() 以在一次操作中将整个 Map 推送到 Hazelcast。

    这是来自实验室的代码 - 它实际上用相同的数据填充了两个表(一个有索引,另一个没有,这让我们可以在以后进行查询和聚合的实验室中比较性能)。它包括关于每次加载需要多长时间的简单时间信息 - 毫不奇怪,当我们为表构建索引时它会更慢,但对索引表的查询会快得多。

    https://github.com/hazelcast/training-courses/blob/master/Special_Projects/mod02-db-etl-lab/src/main/java/com/hztraining/solutions/PopulateCacheWithJDBCSolution.java

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2018-10-23
      • 2012-12-23
      • 1970-01-01
      • 2021-06-27
      • 1970-01-01
      • 1970-01-01
      • 2022-11-15
      • 1970-01-01
      相关资源
      最近更新 更多