【问题标题】:spark.cassandra.connection.connections_per_executor_max is not a valid spark cassandraspark.cassandra.connection.connections_per_executor_max 不是有效的 spark cassandra
【发布时间】:2023-03-30 04:10:02
【问题描述】:

使用 cassandra 连接器 2.5.2 时出现以下错误:

spark.cassandra.connection.connections_per_executor_max 不是有效的 spark cassandra 连接器变量。

在 cassandra 连接器 2.4 中,此参数可以正常工作。

cassandra 连接器 2.5.2 中是否有任何等效选项?

谢谢!

我的代码中的示例:

val sparkSession = SparkSession
            .builder()
            .config("spark.cassandra.connection.connections_per_executor_max", 160)

【问题讨论】:

    标签: apache-spark pyspark spark-cassandra-connector


    【解决方案1】:

    我可以在v2.5.2 documentation 中看到spark.cassandra.connection.localConnectionsPerExecutorspark.cassandra.connection.remoteConnectionsPerExecutor 配置。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2015-10-06
      • 2016-07-03
      • 2017-02-14
      • 1970-01-01
      • 2019-04-10
      • 2020-04-20
      • 2019-10-06
      • 2020-12-08
      相关资源
      最近更新 更多