我对火花提交有疑问,但我没有明确的解决方案。我很清楚在本地主机上以本地[]为主机运行spark-submit将在本地模式下运行它,但是如果我在网关节点或网关节点中与本地[]运行相同的主机,该怎么办?主节点本身。我的应用程序消耗了整个群集还是在该特定计算机上仍在本地模式下运行。 谢谢
答案 0 :(得分:1)
如果我在网关节点或主节点本身中与local []运行相同的主节点,该怎么办。我的应用程序消耗了整个群集还是在该特定计算机上仍在本地模式下运行。
答案: 该特定机器(网关节点或主节点)中的本地模式。因为您没有使用yarn为主。只需对此进行样本测试即可证明这一点。
有关更多详细信息,请参见我的答案here
另一种查看方式是spark ui ..在环境选项卡中,它将显示有关其运行位置的详细信息...请参见屏幕截图。
答案 1 :(得分:0)
在这种情况下,它将使用 网关节点 或 主节点 的资源。 仅当在主机中提到任何群集管理器(例如 YARN , Mesos 等)时,群集才起作用。