低 cassandra 写入/秒，6 节点集群中每秒 1500-2000 次写入

Question

Cassandra 集群规格：

Nodes: 6
Storage: 1536 GB
Cores: 48
Ram: 168 GB

从我的本地到 cassandra 集群的延迟：330 ms-390 ms

我使用的是cassandra java驱动，spark-cassandra-connector_2.11 version 2.3.2

java驱动中的集群配置：

private static Session connect(
      final String node, final Integer port, final String userName, final String password) {

    Builder b = Cluster.builder().addContactPoints(node.split(COMMA_SEPARATOR));
    if (!Strings.isNullOrEmpty(userName) && !Strings.isNullOrEmpty(password)) {
      b.withCredentials(userName, password);
    }

    if (port != null && port != 0) {
      b.withPort(port);
    }

    PoolingOptions poolingOptions = new PoolingOptions();
    poolingOptions
        .setMaxRequestsPerConnection(HostDistance.LOCAL, 32768)
        .setMaxRequestsPerConnection(HostDistance.REMOTE, 10000)
        .setMaxConnectionsPerHost(HostDistance.LOCAL, 3)
        .setMaxConnectionsPerHost(HostDistance.REMOTE, 3)
        .setNewConnectionThreshold(HostDistance.LOCAL, 3)
        .setNewConnectionThreshold(HostDistance.REMOTE, 3)
        .setCoreConnectionsPerHost(HostDistance.LOCAL, 3)
        .setCoreConnectionsPerHost(HostDistance.REMOTE, 3);

    b.withSocketOptions(
        new SocketOptions()
            .setConnectTimeoutMillis(SOCKET_CONNECT_TIMEOUT)
            .setReadTimeoutMillis(SOCKET_READ_TIMEOUT));
    b.withPoolingOptions(poolingOptions);

    cluster = b.build();


    session = cluster.connect();

    return session;
  }

下面是我的测试表：

CREATE TABLE my_keyspace.test_table (
  id int PRIMARY KEY
)

要写信给 cassandra，我正在使用 session.executeAsync 并将期货存储在列表中并等待所有期货完成。

当我执行 100000 次写入时，需要 50-65 秒。 它应该是这么慢还是我在配置中缺少一些东西？ 我已经在套接字选项和池选项中尝试了几个选项，但这是我得到的最好的。

Answer 1

我要检查的第一件事是您的 Cassandra 服务器是否以 100% 的 CPU 利用率运行。如果不是，并且由于我假设服务器在磁盘上没有瓶颈（即使对旋转磁盘每秒执行 1500 次写入也没问题），那么瓶颈必须在其他地方：

您应该始终首先检查的一种可能性是 客户端 不是瓶颈，即它没有使用 100% 的 CPU。

然后，您说“从我的本地到 cassandra 集群的延迟是 330 毫秒”。这是您的测试机和 Cassandra 集群之间的 ping 时间吗？如果是这样，您可能会遇到两种问题。首先，也许这是某种低带宽广域网，它每秒无法支持超过 2000 个请求。但我对此表示怀疑。另一种可能性是您的客户端根本没有足够的并发性......以 1/3 秒的延迟，要实现每秒 2000 次写入，您需要客户端并行执行 666 个请求。你设置的 setMaxRequestsPerConnection() 真的生效了吗？因为如果不是，默认（根据https://docs.datastax.com/en/developer/java-driver/2.1/manual/pooling/）是你设置的3个连接的256倍，也就是768，接近上面的数字666。

当然，它可以是许多其他的东西。没有更多数据很难猜测。