使用ubuntu和Windows的Hadoop集群

时间:2012-06-19 04:09:16

标签: windows ubuntu hadoop cluster-computing

我有三台笔记本电脑(使用ubuntu)我正在联网以充当hadoop的集群。我还有一台仅限Windows的机器,是否可以将其添加到集群并使其充当节点?这可行吗?有人遇到过这样的问题吗?

2 个答案:

答案 0 :(得分:3)

如果你有windows环境,我建议你使用VirtualBox和任何Linux作为Guest OS。

您可以在其上构建Hadoop集群。有许多适用于Linux的安装程序,你不能错。

我们正是以这种方式将其用于开发目的。 Hadoop集群的性能不像功能那样受到关注。

它还允许您微调dev ops,因为您可以撕开并重新开始使用新的VM。

以这种方式构建的最简单方法是:

  1. 安装VirtualBox
  2. 安装Vagrant
  3. 使用以下社区提供的框:http://www.vagrantbox.es/
  4. 将您的VM引导至yum软件包
  5. 从NAT接口移至桥接以太网接口
  6. 使用SCM安装Hadoop:http://www.cloudera.com/products-services/tools/
  7. 启动群集

答案 1 :(得分:1)

是的,这是可能的。在ubuntu机器上,Hadoop安装应该很简单,你只需按照常规步骤操作即可。由于Hadoop在Linux环境中运行,因此您需要在Windows机器上安装Cygwin,这是一个类似Linux的Windows环境,并且可以让您在Windows机器上安装和运行基于Linux的应用程序(如hadoop)。

以下是Cygwin安装的链接:http://www.cygwin.com/install.html