【发布时间】:2026-02-16 09:05:02
【问题描述】:
我正在通过以下命令运行 spark master:
./sbin/start-master.sh
之后我去了http://localhost:8080,看到了下面的页面。
我期待看到带有作业、环境等的选项卡,如下所示
谁能帮我理解问题出在哪里?
我需要额外的配置吗?
谢谢
朱塞佩
【问题讨论】:
标签: apache-spark apache-spark-standalone spark-ui
我正在通过以下命令运行 spark master:
./sbin/start-master.sh
之后我去了http://localhost:8080,看到了下面的页面。
我期待看到带有作业、环境等的选项卡,如下所示
谁能帮我理解问题出在哪里?
我需要额外的配置吗?
谢谢
朱塞佩
【问题讨论】:
标签: apache-spark apache-spark-standalone spark-ui
要在 Web 浏览器中监控和检查 Spark 作业执行,请访问端口 4040 而不是 8080。
例如:http://ipAddress:4040
在 URL 中替换 8080。
参考:https://spark.apache.org/docs/latest/monitoring.html
在上面的链接中,spark 文档声明它在端口 4040 中启动 Web 界面
另一个有用的注意事项是,默认情况下,此信息仅在应用程序期间可用。要在事后查看 Web UI,请在启动应用程序之前将 spark.eventLog.enabled 设置为 true。这会将 Spark 配置为记录 Spark 事件,这些事件将 UI 中显示的信息编码到持久存储中。
希望对您有所帮助。
【讨论】:
我认为您正在寻找的是 SparkUI,您应该首先创建一个 SparkContext。例如,如果你已经安装了 pyspark,你可以运行它,当它正确启动时,你会看到一个 sparkUI 在端口 4040 或 4041...
【讨论】: