齐柏林飞艇火花上下文在一段后关闭答案

【问题标题】：zeppelin spark context closed after one paragraph齐柏林飞艇火花上下文在一段后关闭
【发布时间】：2018-08-01 21:38:24
【问题描述】：

我在 Zeppelin 中有一个笔记本，其中包含多个之前运行良好的段落；突然，在集群重启后，它开始表现得很奇怪。

第一段运行良好，而后面运行的任何内容都显示Connection Refused。

检查$ZEPPELIN_HOME/logs 文件夹zeppelin-interpreter-spark-root-mn.log 中的日志（其中mn 是机器名称）。

 INFO [2018-02-21 21:42:43,301] ({dispatcher-event-loop-15} Logging.scala[logInfo]:54) - Removed broadcast_12_piece0 on mn5:45284 in memory (size: 88.2 KB, free: 2004.5 MB)
 INFO [2018-02-21 21:42:43,401] ({Thread-3} Logging.scala[logInfo]:54) - Invoking stop() from shutdown hook
 INFO [2018-02-21 21:42:43,412] ({Thread-3} AbstractConnector.java[doStop]:310) - Stopped Spark@7de3e842{HTTP/1.1,[http/1.1]}{0.0.0.0:4040}
 INFO [2018-02-21 21:42:43,416] ({Thread-3} Logging.scala[logInfo]:54) - Stopped Spark web UI at http://10.28.37.82:4040
 INFO [2018-02-21 21:42:43,440] ({Yarn application state monitor} Logging.scala[logInfo]:54) - Interrupting monitor thread
 INFO [2018-02-21 21:42:43,442] ({Thread-3} Logging.scala[logInfo]:54) - Shutting down all executors
 INFO [2018-02-21 21:42:43,443] ({dispatcher-event-loop-4} Logging.scala[logInfo]:54) - Asking each executor to shut down
 INFO [2018-02-21 21:42:43,447] ({Thread-3} Logging.scala[logInfo]:54) - Stopping SchedulerExtensionServices
(serviceOption=None,
 services=List(),
 started=false)
 INFO [2018-02-21 21:42:43,450] ({Thread-3} Logging.scala[logInfo]:54) - Stopped
 INFO [2018-02-21 21:42:43,454] ({dispatcher-event-loop-9} Logging.scala[logInfo]:54) - MapOutputTrackerMasterEndpoint stopped!
 INFO [2018-02-21 21:42:43,466] ({Thread-3} Logging.scala[logInfo]:54) - MemoryStore cleared
 INFO [2018-02-21 21:42:43,466] ({Thread-3} Logging.scala[logInfo]:54) - BlockManager stopped
 INFO [2018-02-21 21:42:43,467] ({Thread-3} Logging.scala[logInfo]:54) - BlockManagerMaster stopped
 INFO [2018-02-21 21:42:43,471] ({dispatcher-event-loop-0} Logging.scala[logInfo]:54) - OutputCommitCoordinator stopped!
 INFO [2018-02-21 21:42:43,472] ({Thread-3} Logging.scala[logInfo]:54) - Successfully stopped SparkContext
 INFO [2018-02-21 21:42:43,473] ({Thread-3} Logging.scala[logInfo]:54) - Shutdown hook called

所以关闭钩子被调用。我曾尝试查看 SO 上的其他帖子（如 this 和 this），但没有帮助。日志也没有多大帮助。

我是否需要调整代码以添加额外的日志记录来解决此问题？是否有人已经面临并解决了同样的问题？

【问题讨论】：

标签： scala apache-spark business-intelligence apache-zeppelin apache-spark-2.0

【解决方案1】：

原来是错误记录的情况。我也检查了纱线日志，但找不到任何东西。事实证明，第二段有一个 RunTimeException，从任何日志中都不清楚，但是当我在 spark-shell 上尝试相同的命令时，我意识到问题出在哪里并修复了。

在 spark-shell 中运行 scala 命令，然后查看它抛出了什么异常。

【讨论】：