【问题标题】:Spark Ui not showing completed applicationsSpark Ui 未显示已完成的应用程序
【发布时间】:2017-11-09 18:53:35
【问题描述】:

我正在使用 Spark 独立集群,尽管作业成功运行,但 SparkUI 未显示已完成的应用程序。请建议

【问题讨论】:

  • 查看已完成(已完成)的应用程序设置 spark 历史服务器 spark.apache.org/docs/latest/…
  • @RaphaelRoth 我想查看在 8080 端口下运行和完成的应用程序不在历史服务器中,我还在下面设置了属性仍然没有运气

标签: apache-spark


【解决方案1】:

当前屏幕截图显示 Spark Standalone Master UI。它显示了指向当前正在运行的应用程序/驱动程序和已完成应用程序的 SparkUI 的链接,但没有链接。

要查看 SparkUI 的已完成应用程序,您需要在spark-defaults.conf 中进行以下配置:

spark.eventLog.enabled true
spark.history.fs.logDirectory file:///path/to/event-log-folder
spark.eventLog.dir file:///path/to/event-log-folder

您还需要启动sbin/start-history-server.sh 以查看结果。它可能也可用于查看正在运行的应用程序(如其 UI 上的“显示不完整的应用程序”链接),但在高负载的 Spark Master 上,您会遇到一些延迟,结果会出现延迟。

【讨论】:

  • 通常 http://:8080/Json 应该显示已完成的应用程序、活动应用程序等。对吗? ,即使这样我是否需要启用事件日志并提供事件日志目录?
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2022-11-01
  • 1970-01-01
  • 2015-01-25
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多