【发布时间】:2016-07-20 16:43:42
【问题描述】:
我现在有一个由 4 个 spark 节点和 1 个 solr 节点组成的集群,并使用 cassandra 作为我的数据库。我想将中期节点增加到 20 个,长期增加到 100 个。但 Datastax 似乎不支持 Mesos 或 Yarn。我将如何最好地管理所有这些节点 CPU、内存和存储? Mesos 是否需要 20 或 100 个节点?到目前为止,我找不到任何使用 datastax 的示例。我通常没有需要完成的工作,但我正在运行连续的数据流。这就是为什么我什至考虑删除 Datastax 的原因,因为在我看来,如果没有 YARN 或 Mesos,我无法有效地管理这么多节点,但也许有一个我没有想到的更好的解决方案?我也在使用 python,所以显然 Yarn 是我唯一的选择。
如果您有任何建议或最佳实践示例,请告诉我。
谢谢!
【问题讨论】:
标签: apache-spark spark-streaming datastax datastax-enterprise mesos