如何从`yarn application -list`访问Tracking-URL?

时间:2017-03-03 23:20:44

标签: hadoop apache-spark pyspark yarn

我希望看到我在纱线中看到的某项工作的纱网UI。

当我yarn application -list时,我可以看到跟踪网址<tracking-URL>

所以,我在chrome中导航到那个页面,它给我一个这样的错误:

The 172.12.15.181 page isn't working.
172.12.15.181 didn't send any data.

我很清楚地进入应该让我看到它的机器。此外,作业肯定在YARN的status=RUNNING。那么,有什么可以阻止我在这个网址上看到纱线网页UI?

我这样做是否正确?谢谢。

2 个答案:

答案 0 :(得分:1)

在纱线应用程序中显示的跟踪网址 - 列表是正确的,问题是您无法正确访问它。

  1. 确保允许您的计算机到达运行spark驱动程序代码的节点,检查网络防火墙。
  2. 确保从防火墙允许该端口用于URL。如果不使用动态端口转发。

    在大多数情况下,出于安全原因,未知端口会被防火墙端阻止,您需要动态转发以查看URL。

  3. 我个人使用putty创建动态端口转发隧道,然后使用“SwitchySharp”chrome扩展来查看spark UI。

答案 1 :(得分:0)

步骤1: 打开到您计算机的SSH隧道:

ssh -i ~/.ssh/<KEY_FILE>.pem -L 4040:localhost:4040 -N <USER>@<SERVER_PUBLIC_IP>

步骤2: 在浏览器中访问localhost:4040