【问题标题】:How to stop spark streaming on java? [duplicate]java - 如何停止java上的火花流? [复制]
【发布时间】:2017-08-17 16:42:37
【问题描述】:

我是 Spark Streaming 的初学者。我正在使用火花流生产和消费消息。但我无法阻止消费者。实际上,当生产者不发送任何消息时,我需要停止流式传输。有人可以用 java 代码帮助我吗?如果可能的话,给我一个小示例代码来停止 java 上的流式传输。

我使用的是 spark 2.2.0 版

conf.set("spark.streaming.stopGracefullyOnShutdown","true");
// Execute the Spark workflow defined above
streamingContext.start();
try {
    streamingContext.awaitTermination();
} catch (Exception e) {
    // e.printStackTrace();
}

【问题讨论】:

  • 看看this的答案。
  • 我已经更新了 conf.set("spark.streaming.stopGracefullyOnShutdown","true"); 但它并没有停止流式传输。你能帮我解决这个问题吗? @格伦尼
  • 您是否按照帖子中的说明发送停止信号?stopGracefullyOnShutdown 仅确保在 JVM 收到停止信号时正常停止流式传输作业 - 您必须发送信号(或者您必须编写一个发送信号的程序)。
  • 我是初学者。我不知道如何发送停止信号。你能帮我解决这个问题吗?或者你能告诉我任何简单的代码来做到这一点吗? @格伦尼
  • 这篇文章告诉你可以用来停止流式传输的实际命令。我不确定您还需要什么...

标签: apache-spark spark-dataframe spark-streaming


【解决方案1】:

stream 不知道数据是否结束。 如果你确定数据已经结束,也许你可以杀死job

$spark-submit --master $masterurl --kill $driverid

您可以通过jobWEBUI 找到driverid

【讨论】:

  • 我在 Windows 上运行。在哪里使用你的命令?
猜你喜欢
  • 2020-05-29
  • 1970-01-01
  • 2015-12-11
  • 1970-01-01
  • 1970-01-01
  • 2016-05-07
  • 2017-08-04
  • 2015-03-03
相关资源
最近更新 更多