【发布时间】:2021-06-30 19:02:47
【问题描述】:
我正在使用 Java API 编写我的第一个 Spark 作业。
我想用笔记本运行它。
我正在研究 Zeppelin 和 Jupyter。
在 Zeppelin 文档中,我看到了对 Scala、IPySpark 和 SparkR 的支持。我不清楚使用两个解释器 %spark.sql %java 是否允许我使用 Spark SQL 的 Java API
Jupyter 具有“IJava”内核,但我发现不支持使用 Java 的 Spark。
还有其他选择吗?
【问题讨论】:
-
IJava 内核不关心框架,所以应该可以正常工作。否则,Scala 已经足够接近了,不是吗?
-
@OneCricketeer 关于 IJava,我不需要某种 Spark 解释器来在 IJava 下运行 Spark 吗? IJava 够用吗?关于语言,由于各种原因,我目前更喜欢 Java。
-
我没有使用过 IJava 内核,但我认为它提供了包含类路径依赖项的方法,例如 spark-core
标签: apache-spark jupyter-notebook apache-zeppelin