【问题标题】:How to find the job id of an action in spark?如何在火花中找到动作的工作ID?
【发布时间】:2020-06-27 17:55:29
【问题描述】:

我想在 spark 中取消一个工作,因为有时它需要更多时间并且没有完成。当我们调用一个动作时,就会创建一个工作。 例如,当我调用 collect 并且需要更多时间才能完成时。我想取消这个动作的工作。 我不使用 spark-submit,我在 Scala 代码中创建 SparkContext。我的应用程序是基于 GraphX 的基于 Web 的应用程序。

我如何在 Spark 中做到这一点?

【问题讨论】:

  • 如果有效,请确认答案是否适合您。接受并投票。

标签: scala apache-spark spark-graphx


【解决方案1】:

我想你正在寻找这个。

val res = spark.sparkContext.applicationId
print(res)
//local-1593342096634res: String = local-1593342096634

【讨论】:

    【解决方案2】:

    我找到了答案,

    SparkContext.CancelGroupJob() 可以帮助解决问题。下面的链接介绍了解决方案。 CancelJobGroup

    【讨论】:

      猜你喜欢
      • 2018-07-17
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2016-03-12
      • 2017-11-23
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多