【问题标题】:Notebook to write Java jobs for Spark为 Spark 编写 Java 作业的笔记本
【发布时间】:2021-06-30 19:02:47
【问题描述】:

我正在使用 Java API 编写我的第一个 Spark 作业。

我想用笔记本运行它。

我正在研究 Zeppelin 和 Jupyter。

在 Zeppelin 文档中,我看到了对 Scala、IPySpark 和 SparkR 的支持。我不清楚使用两个解释器 %spark.sql %java 是否允许我使用 Spark SQL 的 Java API

Jupyter 具有“IJava”内核,但我发现不支持使用 Java 的 Spark。

还有其他选择吗?

【问题讨论】:

  • IJava 内核不关心框架,所以应该可以正常工作。否则,Scala 已经足够接近了,不是吗?
  • @OneCricketeer 关于 IJava,我不需要某种 Spark 解释器来在 IJava 下运行 Spark 吗? IJava 够用吗?关于语言,由于各种原因,我目前更喜欢 Java。
  • 我没有使用过 IJava 内核,但我认为它提供了包含类路径依赖项的方法,例如 spark-core

标签: apache-spark jupyter-notebook apache-zeppelin


【解决方案1】:

@Victoriia Zeppelin 0.9.0 有 %java 解释器,这里有例子 zeppelin.apache.org

我尝试在 GoogleCloud 中开始使用它,但遇到了一些问题...

【讨论】:

    猜你喜欢
    • 2019-07-02
    • 1970-01-01
    • 2019-08-25
    • 2021-05-17
    • 1970-01-01
    • 2017-12-01
    • 2021-06-14
    • 1970-01-01
    • 2022-01-22
    相关资源
    最近更新 更多