如何在Windows机器上设置Spark集群?

时间:2013-07-04 08:35:17

标签: apache-spark cluster-computing bigdata yarn mesos

我正在尝试在Windows机器上设置Spark群集 这里的方法是使用独立模式,对吧? 不使用Mesos或YARN的具体缺点是什么?使用其中任何一个会有多大的痛苦?有没有人有这方面的经验?

2 个答案:

答案 0 :(得分:2)

仅供参考,我在用户组中得到了答案:https://groups.google.com/forum/#!topic/spark-users/SyBJhQXBqIs

独立模式确实是要走的路。 Mesos在Windows和YARN下不起作用。

答案 1 :(得分:1)

快速说明,YARN最终应该通过Hortonworks数据平台在Windows上运行(2.0版测试版在YARN上,但目前仅在Linux上)。另一个可能的途径是让它适用于Hadoop 1.1(适用于Windows 1.1的Hortonworks Data Platform) - 但是让它在独立模式下运行的方法绝对是最容易实现的。