【发布时间】:2015-10-30 07:11:21
【问题描述】:
我正在跟踪此tutorial 在我的 aws 免费层帐户上测试 apache spark。但是它会创建 2 个新实例(1x 主实例和 1x 从属实例),这意味着我整个月都无法运行我的机器......
问题:有没有办法可以在一台机器上安装 apache spark?
谢谢
【问题讨论】:
标签: amazon-web-services amazon-ec2 apache-spark
我正在跟踪此tutorial 在我的 aws 免费层帐户上测试 apache spark。但是它会创建 2 个新实例(1x 主实例和 1x 从属实例),这意味着我整个月都无法运行我的机器......
问题:有没有办法可以在一台机器上安装 apache spark?
谢谢
【问题讨论】:
标签: amazon-web-services amazon-ec2 apache-spark
如果您只是测试 Spark,您实际上不需要“安装”spark。我在本地模式下运行的本地 VM 中进行所有 Spark 开发,但您可以通过以下步骤在 AWS 中执行相同的操作:
您可以运行 spark shell:
/opt/spark-1.4.1-bin-hadoop2.6/bin/spark-shell
您可以在本地模式下运行打包的 Spark 应用程序:
/opt/spark-1.4.1-bin-hadoop2.6/bin/spark-submit --master local[*] --class com.example.project.class project-1.0.jar
你可以启动 Spark:
/opt/spark-1.4.1-bin-hadoop2.6/sbin/start-all.sh
然后在端口 8080 处访问 Spark UI
【讨论】:
解决方案很简单...按照说明将 apache spark 设置为独立服务器 link
【讨论】: