【问题标题】:Google Cloud Dataproc - Spark and Hadoop VersionGoogle Cloud Dataproc - Spark 和 Hadoop 版本
【发布时间】:2015-12-21 19:39:51
【问题描述】:

在 Google Cloud Dataproc 测试版中,Spark 和 Hadoop 有哪些版本?

Spark 是为哪个版本的 Scala 编译的?

【问题讨论】:

    标签: hadoop apache-spark google-cloud-platform google-cloud-dataproc


    【解决方案1】:

    根据official announcement

    今天,我们将推出具有 Spark 1.5 和 Hadoop 的集群 2.7.1.

    【讨论】:

    • 好消息在这里。我认为谷歌真的需要这个来与spark-ec2 脚本“竞争”。有一些spark-gce 脚本,但仅适用于旧版本。这应该添加到文档中。
    • 你知道什么版本的Scala吗?
    • Scala 版本 2.10.4 和 Spark 1.5。
    【解决方案2】:

    Current Spark version info is listed in the docs。 Spark 2.1.0 使用 Scala 2.11。

    【讨论】:

      【解决方案3】:

      Spark的版本取决于使用的version of DataProc,目前它使用Data Proc v1.2,它有

      火花:2.2.1 斯卡拉:2.11.8

      许多框架都为 DataProc 预定义了initialization scripts,包括具有以下版本的 Kafka:

      卡夫卡:2.11.0.10.1 卡夫卡客户端:0.10.1

      【讨论】:

        猜你喜欢
        • 1970-01-01
        • 1970-01-01
        • 2023-04-06
        • 1970-01-01
        • 2018-03-08
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        相关资源
        最近更新 更多