应用Zeppelin杀死火花

时间:2016-09-19 15:59:30

标签: scala apache-spark apache-zeppelin

有没有推荐的方法来应用Zeppelin内部的纱线杀火(使用scala)?在火花壳中我使用

:q 

它干净地离开外壳,杀死纱线上的应用,并取消我正在使用的核心。

我发现我可以使用

sys.exit

确实成功杀死了纱线上的应用程序,但它也会抛出一个错误,如果我想开始一个新的会话,我需要重新启动解释器。如果我主动运行另一个具有相同解释器实例的笔记本,那么sys.exit并不理想,因为我无法重启解释器,直到我完成第二个工作笔记本。

2 个答案:

答案 0 :(得分:0)

您可能想要转到YARN UI并在那里杀死应用程序。它应该在您的主名称节点的端口8088上运行。但是,这也需要重新启动服务。

理想情况下,你让YARN处理这个问题。仅仅因为Zeppelin将使用指定数量的执行程序和核心启动Spark并不意味着它们以您的思维方式“保留”。这些核仍可用于其他容器。 YARN非常好地管理这些资源。除非你有一个有限的集群和/或正在做一些需要YARN最后一滴资源管理的事情,否则你应该可以保留Zeppelin单独使用的Spark应用程序。

答案 1 :(得分:0)

您可以尝试重新启动Zeppelin Spark解释器(可以在解释器设置页面中完成)。这应该会杀死Zeppelin应用程序,但是当你再次尝试执行一个段落时,它只会重新启动解释器(以及Zeppelin应用程序)。