【发布时间】:2021-03-18 11:59:38
【问题描述】:
我在数据库中有 1 百万个条目,我必须将所有内容都放入 Hazelcast IMap。
那么现在如何测试IMap的加载时间呢?
【问题讨论】:
我在数据库中有 1 百万个条目,我必须将所有内容都放入 Hazelcast IMap。
那么现在如何测试IMap的加载时间呢?
【问题讨论】:
您可以通过多种方式加载地图;一旦你有了加载代码,你就可以做一些简单的事情,比如在加载前后调用 System.currentTimeMillis() 来查看它需要多长时间。
您可以使用 Hazelcast 提供的 MapLoader 功能在成员(集群)端进行加载,或者编写自己的 JDBC 代码在客户端加载条目并将它们添加到集群中。您还可以将 Hazelcast Jet 用作摄取/ETL 引擎,如果您想在加载数据时对其进行过滤、丰富或数据转换,这将特别有用。
如果您从客户端加载,您确实希望避免迭代 JDBC 结果集并一次将条目放入映射的幼稚方法 - 为每个一百万个条目会扼杀你的表现。在我最近教授的培训班的实验室练习中,我将包含 55000 个条目的整个表加载到 java.util.HashMap 中,然后执行 IMap.putAll() 以在一次操作中将整个 Map 推送到 Hazelcast。
这是来自实验室的代码 - 它实际上用相同的数据填充了两个表(一个有索引,另一个没有,这让我们可以在以后进行查询和聚合的实验室中比较性能)。它包括关于每次加载需要多长时间的简单时间信息 - 毫不奇怪,当我们为表构建索引时它会更慢,但对索引表的查询会快得多。
【讨论】: