【问题标题】:MongoSpark companion object in python [duplicate]python中的MongoSpark伴随对象[重复]
【发布时间】:2017-09-24 00:01:42
【问题描述】:

在 Scala 应用程序中使用 Spark MongoDB 连接器时,您可以通过 import com.mongodb.spark.config._ 导入 MongoSpark 伴随对象,然后运行 val rdd = MongoSpark.load(spark) 加载您的收藏。我想在 python 应用程序中做同样的事情,但是我应该如何让 MongoSpark 对象在我的 python 应用程序中可用。没有要安装和导入的 python 包。什么是解决方法

【问题讨论】:

    标签: python mongodb scala apache-spark


    【解决方案1】:

    请参阅Spark Connector Python Guide 了解更多信息。

    下面是一个从 pySpark 连接到 MongoDB 的简短示例:

    from pyspark.sql import SparkSession
    
    spark = SparkSession \
        .builder \
        .appName("myApp") \
        .config("spark.mongodb.input.uri", "mongodb://127.0.0.1/test.coll") \
        .config("spark.mongodb.output.uri", "mongodb://127.0.0.1/test.coll") \
        .getOrCreate()
    
    df = spark.read.format("com.mongodb.spark.sql.DefaultSource").load()
    df.printSchema()
    

    【讨论】:

    • 它给出了异常:Py4JJavaError: An error occurred while calling o71.load。 :java.lang.ClassNotFoundException:找不到数据源:com.mongodb.spark.sql.DefaultSource。请在spark.apache.org/third-party-projects.html 查找软件包。
    • 我应该如何让 com.mongodb.spark.sql.DefaultSource 在 python 应用程序中可用,比如说在 spyder IDE 中。
    • 你需要包含jar/包。运行 pyspark 时可以添加:--packages org.mongodb.spark:mongo-spark-connector_2.11:2.0.0
    • 我正在使用 Spyder 作为开发 IDE,有什么方法可以在这些 .jar 包已经可用的情况下启动 Spyder?
    • 我发现这个链接非常相​​关dataxwying.blogspot.nl/2016/02/…。虽然我仍然缺少 python 中的 MongoSpark 对象。
    猜你喜欢
    • 1970-01-01
    • 2016-02-21
    • 1970-01-01
    • 1970-01-01
    • 2016-08-09
    • 2016-05-21
    • 1970-01-01
    • 1970-01-01
    • 2019-03-07
    相关资源
    最近更新 更多