【发布时间】:2016-09-16 21:27:43
【问题描述】:
我有一个现有的 Hadoop 集群,其 hadoop 版本为 Hadoop 2.6.0-cdh5.4.2。我有一个在该集群上运行的现有 Spark(版本 1.5.1)。但是,我想通过一些代码修改来使用 Spark 2.0 / Spark 2.1。
更新
我从cloudera forums 发现,理论上,我可以下载 Spark-2.0 (+ Hadoop-2.6),在 conf/spark-env.sh 上更改 HADOOP_CONF_DIR 并执行类似的操作
./bin/spark-shell --master yarn
基本上,我将在我的集群上运行 Spark-2.0。但是,它仍然不起作用。我的潜在解决方案已经用完了,这就是我来到这里的原因。
【问题讨论】:
-
这是一个 CM 管理的集群吗?如果是这样,现在可以使用新的 Spark 2.0 包(测试版)。