【问题标题】:error: value show is not a member of Unit CaseFileDFTemp.show()错误:值 show 不是 Unit CaseFileDFTemp.show() 的成员
【发布时间】:2020-04-27 18:50:26
【问题描述】:

我在databricks scala 笔记本中运行了以下代码,但出现错误。

添加库:azure-cosmosdb-spark_2.4.0_2.11-1.3.4-uber 代码:

import org.apache.spark.rdd.RDD
import org.apache.spark.{SparkConf, SparkContext}

import spark.implicits._
import org.apache.spark.sql.functions._
import org.apache.spark.sql.Column
import org.apache.spark.sql.types.{StructType, StructField, StringType, IntegerType,LongType,FloatType,DoubleType, TimestampType}
import org.apache.spark.sql.cassandra._

//datastax Spark connector
import com.datastax.spark.connector._
import com.datastax.spark.connector.cql.CassandraConnector
import com.datastax.driver.core.{ConsistencyLevel, DataType}
import com.datastax.spark.connector.writer.WriteConf

//Azure Cosmos DB library for multiple retry
import com.microsoft.azure.cosmosdb.cassandra

import sqlContext.implicits._
spark.conf.set("x","x")
spark.conf.set("x","x")
spark.conf.set("x","x")
spark.conf.set("x","x")

val CaseFileDFTemp = sqlContext
  .read
  .format("org.apache.spark.sql.cassandra")
  .options(Map( "table" -> "case_files", "keyspace" -> "shared"))
.load().show()

CaseFileDFTemp.show()

错误:

错误:值显示不是 Unit CaseFileDFTemp.show() 的成员

【问题讨论】:

    标签: sql scala apache-spark azure-databricks azure-cosmosdb-cassandra-api


    【解决方案1】:

    您能否尝试创建 SQL 上下文并尝试显示功能。

    import sqlContext.implicits._
    val sqlContext= new org.apache.spark.sql.SQLContext(sc)
    

    如果有帮助请告诉我。

    【讨论】:

      【解决方案2】:

      如果你写

      val CaseFileDFTemp = sqlContext
        .read
        .format("org.apache.spark.sql.cassandra")
        .options(Map( "table" -> "case_files", "keyspace" -> "shared"))
      .load().show()
      

      然后CaseFileDFTemp 将具有Unit 类型,因为show() 将“消耗”您的数据框。所以去掉show(),就可以了

      【讨论】:

        猜你喜欢
        • 1970-01-01
        • 2020-10-15
        • 2016-02-07
        • 2017-10-22
        • 1970-01-01
        • 2015-10-03
        • 2020-03-25
        • 2023-03-18
        • 1970-01-01
        相关资源
        最近更新 更多