将我的 jar 导入到 spark shell

Question

我有一个简单的 scala maven 模块，它是一个更大项目的一部分（我按照此处所述创建它：https://www.jetbrains.com/help/idea/2016.2/creating-a-maven-module.html）：

package com.myorg.simplr

import [...]

@SerialVersionUID(100L)
case class Simplr (){
    //class code
}

我正在尝试在 spark shell 中使用这个类，所以我构建了一个 jar 文件“simplr-1.0.jar”并使用 --jars simplr-1.0.jar 启动了 spark shell。

然后，当我尝试导入时，我得到以下信息

scala> import com.myorg.simplr.Simplr
<console>:25: error: object myorg is not a member of package com
         import com.myorg.simplr.Simplr
                    ^

我怎样才能使导入工作？

我使用maven构建，这里是我的pom.xml：

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <parent>
        <artifactId>my-parent-project</artifactId>
        <groupId>com.myorg</groupId>
        <version>1.0</version>
    </parent>
    <modelVersion>4.0.0</modelVersion>

    <artifactId>simplr</artifactId>
    <version>1.0</version>

    <dependencies>
        <dependency>
            <groupId>org.apache.spark</groupId>
            <artifactId>spark-sql_2.10</artifactId>
            <version>1.6.0</version>
            <scope>provided</scope>
        </dependency>

        <dependency>
            <groupId>org.apache.spark</groupId>
            <artifactId>spark-mllib_2.10</artifactId>
            <version>1.6.0</version>
            <scope>provided</scope>
        </dependency>
    </dependencies>

</project>

Answer 1

请确保以下几点可以正常工作 1. 像./spark-shell --jars jar_path一样启动spark shell 2.你导入的同一个包下的jar中有class文件，打开jar查看。 3. 启动 spark 后转到 http://localhost:4040/environment/ 你的 jar 是否会在类路径条目中。