【发布时间】:2017-11-09 18:53:35
【问题描述】:
【问题讨论】:
-
查看已完成(已完成)的应用程序设置 spark 历史服务器 spark.apache.org/docs/latest/…
-
@RaphaelRoth 我想查看在 8080 端口下运行和完成的应用程序不在历史服务器中,我还在下面设置了属性仍然没有运气
标签: apache-spark
【问题讨论】:
标签: apache-spark
当前屏幕截图显示 Spark Standalone Master UI。它显示了指向当前正在运行的应用程序/驱动程序和已完成应用程序的 SparkUI 的链接,但没有链接。
要查看 SparkUI 的已完成应用程序,您需要在spark-defaults.conf 中进行以下配置:
spark.eventLog.enabled true
spark.history.fs.logDirectory file:///path/to/event-log-folder
spark.eventLog.dir file:///path/to/event-log-folder
您还需要启动sbin/start-history-server.sh 以查看结果。它可能也可用于查看正在运行的应用程序(如其 UI 上的“显示不完整的应用程序”链接),但在高负载的 Spark Master 上,您会遇到一些延迟,结果会出现延迟。
【讨论】: