【问题标题】:How to best manage all my nodes CPU, memory and storage with Datastax spark?如何使用 Datastax spark 最好地管理我的所有节点 CPU、内存和存储?
【发布时间】:2016-07-20 16:43:42
【问题描述】:

我现在有一个由 4 个 spark 节点和 1 个 solr 节点组成的集群,并使用 cassandra 作为我的数据库。我想将中期节点增加到 20 个,长期增加到 100 个。但 Datastax 似乎不支持 Mesos 或 Yarn。我将如何最好地管理所有这些节点 CPU、内存和存储? Mesos 是否需要 20 或 100 个节点?到目前为止,我找不到任何使用 datastax 的示例。我通常没有需要完成的工作,但我正在运行连续的数据流。这就是为什么我什至考虑删除 Datastax 的原因,因为在我看来,如果没有 YARN 或 Mesos,我无法有效地管理这么多节点,但也许有一个我没有想到的更好的解决方案?我也在使用 python,所以显然 Yarn 是我唯一的选择。

如果您有任何建议或最佳实践示例,请告诉我。

谢谢!

【问题讨论】:

    标签: apache-spark spark-streaming datastax datastax-enterprise mesos


    【解决方案1】:

    如果您想在受支持的 Hadoop/Yarn 环境中运行 DSE,您需要使用 BYOH,请阅读它HERE 在 BYOH 中,您可以在 DSE 中运行内部 Hadoop 平台,也可以使用 Cloudera 或 HDP 平台运行YARN 和其他任何可用的东西。

    【讨论】:

      猜你喜欢
      • 2014-05-29
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2021-04-09
      • 2015-12-11
      • 2020-05-08
      • 2013-05-02
      • 2013-03-19
      相关资源
      最近更新 更多