【问题标题】:SparkUI not showing Tab (Jobs, Stages, Storage, Environment,...) when run in standalone modeSparkUI 在独立模式下运行时不显示选项卡(作业、阶段、存储、环境……)
【发布时间】:2026-02-16 09:05:02
【问题描述】:

我正在通过以下命令运行 spark master:

./sbin/start-master.sh

之后我去了http://localhost:8080,看到了下面的页面。

我期待看到带有作业、环境等的选项卡,如下所示

谁能帮我理解问题出在哪里?

我需要额外的配置吗?

谢谢

朱塞佩

【问题讨论】:

    标签: apache-spark apache-spark-standalone spark-ui


    【解决方案1】:

    要在 Web 浏览器中监控和检查 Spark 作业执行,请访问端口 4040 而不是 8080。

    例如:http://ipAddress:4040

    在 URL 中替换 8080。

    参考:https://spark.apache.org/docs/latest/monitoring.html

    在上面的链接中,spark 文档声明它在端口 4040 中启动 Web 界面

    另一个有用的注意事项是,默认情况下,此信息仅在应用程序期间可用。要在事后查看 Web UI,请在启动应用程序之前将 spark.eventLog.enabled 设置为 true。这会将 Spark 配置为记录 Spark 事件,这些事件将 UI 中显示的信息编码到持久存储中。

    希望对您有所帮助。

    【讨论】:

    【解决方案2】:

    您在<master-ip>:8080 获得的 UI 是 Masters 的 Web UI。您可以在<worker-ip>:8081 为Worker 提供一个类似的端口(8081 是默认端口;可以是任何端口)

    您正在查找的 Web UI 具有您运行的应用程序的规范,即执行程序、dag 图、阶段等。因此,如果您单击 Running Applications 之一,您将获得如下所示的页面。点击Application UI,你会得到所需的页面。

    【讨论】:

    • 同意。唯一的问题是,对我来说 spark 2.4.3,k8s。工作端口是 4040
    【解决方案3】:

    我认为您正在寻找的是 SparkUI,您应该首先创建一个 SparkContext。例如,如果你已经安装了 pyspark,你可以运行它,当它正确启动时,你会看到一个 sparkUI 在端口 4040 或 4041...

    【讨论】: