【问题标题】:How to Build spark to run on existing Hadoop 2.6 Cluster from CDH如何从 CDH 构建 spark 以在现有 Hadoop 2.6 集群上运行
【发布时间】:2016-09-16 21:27:43
【问题描述】:

我有一个现有的 Hadoop 集群,其 hadoop 版本为 Hadoop 2.6.0-cdh5.4.2。我有一个在该集群上运行的现有 Spark(版本 1.5.1)。但是,我想通过一些代码修改来使用 Spark 2.0 / Spark 2.1。

更新

我从cloudera forums 发现,理论上,我可以下载 Spark-2.0 (+ Hadoop-2.6),在 conf/spark-env.sh 上更改 HADOOP_CONF_DIR 并执行类似的操作

./bin/spark-shell --master yarn

基本上,我将在我的集群上运行 Spark-2.0。但是,它仍然不起作用。我的潜在解决方案已经用完了,这就是我来到这里的原因。

【问题讨论】:

  • 这是一个 CM 管理的集群吗?如果是这样,现在可以使用新的 Spark 2.0 包(测试版)。

标签: apache-spark cloudera-cdh


【解决方案1】:

Cloudera 即将推出 Spark 2.0 Beta。您将能够通过包裹轻松地将其安装在 Cloudera Manager 管理的集群上。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2020-08-09
    • 1970-01-01
    • 1970-01-01
    • 2013-12-13
    • 2012-07-09
    • 2017-07-10
    相关资源
    最近更新 更多