SparkContext构造函数中的appName是什么,它的用法是什么?

时间:2017-02-02 05:42:26

标签: hadoop apache-spark

我是Spark的新手,我对主url旁边的appName有点混淆。我通过互联网搜索了它,但无法找到明确的答案。在线文章提到appName创建后无法更改。因此,如果只有一个sparkcontext可用于单个jvm,appNames的实际用途是什么......?

任何人都可以清楚地向我解释这一点。

感谢

1 个答案:

答案 0 :(得分:2)

Spark架构有多个组件,如下所示。

  • 驱动程序:这是驱动整个应用程序的捆绑jar应用程序。驱动程序与Spark Master的一个实例进行对话,将您的工作提交给集群

  • Spark Master :Master充当群集的驱动程序的单点联系人。它通过与集群管理器协商为应用程序分配必要的资源。

  • 执行人员/工作人员:他们是系统中实际处理您的Dataframes / RDD的主力,即。您的分布式数据。

Spark Master可能同时处理多个驱动程序应用程序提交的多个作业。要在群集中运行的数百个其他应用程序中监视/跟踪您的特定应用程序,您需要一个标识符。这是appName有用的地方。